ChatGPT被发现引用由AI生成的Grokipedia数据 这可能会被用来炮制和传播虚假信息

Grokipedia 是埃隆马斯克旗下人工智能公司 xAI 基于 Grok 创建的维基百科，即这个网站上的所有内容都是由 Grok AI 自主编写的，Grok AI 在抓取互联网原始信息并加工后再次输出为百科条目。

现在 ChatGPT 就被发现有时候可能会引用来自 Grokipedia 的文章数据，引用的内容主要是某些不太常见的主题，例如涉及到伊朗政治以及英国历史学家理查德埃文斯爵士的生平事迹等。

问题在于很多用户会相信 ChatGPT 给出的回答，而 ChatGPT 引用的内容可能来自 Grok AI 编写的，Grok AI 又是引用自互联网再进行加工，这其中难免涉及到事件真实性等问题。

这就像是此前在人工智能领域部分 AI 公司使用其他 AI 工具生成的数据来训练 AI 模型，这可能导致 AI 模型出现幻觉并降低模型质量，甚至出现所谓的模型崩溃，虽然 ChatGPT 只是引用 Grokipedia 给出回答而非训练模型，但这同样可能出现虚假信息的问题。

正常来说 AI 工具应当引用知名网站或媒体发布的信息，如果 AI 不对内容来源进行甄别就很容易掉进陷阱，例如有些网站使用 AI 生成海量没有实际意义的垃圾内容，这些内容可能包含虚假信息甚至是谣言，要是被 AI 引用就可能造成虚假信息的广泛传播。

尽管每个 AI 工具都会注明信息可能存在错误，但真正能做到对 AI 回答进行核实的用户少之又少，也就是大部分用户可能不会核实 AI 给出的内容，这就会加剧虚假信息的传播。

目前 OpenAI 和 xAI 都没有就此事发布回应，OpenAI 或许要开发新机制来甄别不同信息来源的可靠性，否则未来 AI 引用 AI 生成的内容，别有用心的人就可以利用这个问题炮制虚假信息并借助 AI 传播。

关注公众号：拾黑（shiheibook）了解更多

友情链接：

关注数据与安全，洞悉企业级服务市场：https://www.ijiandao.com/
安全、绿色软件下载就上极速下载站：https://www.yaorank.com/