ChatGPT搜索结果不可信

哥伦比亚大学的Tow Center for Digital Journalism分析了来自20家不同出版物的约200条引文后发现，ChatGPT搜索在正确归因来源方面存在问题。未找到针对区域：段落下方的获胜广告！未找到针对区域：引言中部的获胜广告！研究人员要求ChatGPT搜索找到每个引言的来源。调查发现，一些回答正确地归因于正确的在线来源，但其他回答则充满了不准确性。具体来说，超过三分之一的查询使用了伪造的来源材料，而不是澄清无法找到正确的引言来源，或者聊天机器人无法通过robots.txt文件检索到它。更糟糕的是，ChatGPT错误地将合作伙伴出版物和没有现有许可协议的出版物的故事归因于OpenAI，有时甚至剽窃新闻内容。这些结果并不让那些花时间与ChatGPT等聊天机器人打交道的人感到意外，这些聊天机器人继续产生幻觉，并提供事实和错误信息的混合。ChatGPT搜索于十月推出，承诺让你以“比以前更好”的方式搜索互联网，提供“快速、及时的答案，并附带相关网页来源的链接，这些链接以前你需要通过搜索引擎才能找到。”OpenAI的一位发言人淡化了这一报告，对测试方法提出了异议。“我们与合作伙伴合作，以提高行内引用的准确性，并尊重出版商的偏好，包括通过管理OAI-SearchBot在他们的robots.txt中来控制它们在搜索中的显示方式。”发言人说，“我们将继续改进搜索结果。”OpenAI的ChatGPT搜索功能以与Google或任何经典搜索引擎相同的方式收集数据。它的爬虫从互联网上的所有地方下载和索引内容，忽略那些使用robots.txt文件阻止爬虫的网站。在搜索结果中，ChatGPT提供链接到相关的网络来源，如新闻文章和博客帖子，以提供额外的上下文。一些出版物，如《纽约时报》（因版权侵权诉讼将OpenAI和微软告上法庭）已经退出。其他许多出版物，包括欧洲媒体巨头 Axel Springer（拥有Politico），OpenAI 与其签署了商业许可协议，允许其网络爬虫浏览其庞大的新闻档案。如果你有任何关于ChatGPT结果完全可信或ChatGPT可以取代传统网页搜索的幻想，这将是一次醒悟。我不是说聊天机器人没有用处。它们可以有帮助，但只能作为你工具箱中的一个附加工具。你不应该信任基于AI的搜索来归因来源或提供事实信息。如果你必须在下一个项目中使用此类工具，请务必始终验证答案以确保它们正确（这抵消了AI驱动搜索的主要吸引力）。