【虎科技】12月12日消息，近日，xAI公司推出了一款名为Grok的全新人工智能聊天机器人，并专门向美国地区的Premium+ X用户开放。Grok采用了创新的Grok-1模型，与当前OpenAI旗下ChatGPT所使用的GPT-4模型截然不同。更引人注目的是，Grok集成了X平台的实时数据，能够根据X平台的最新动态提供实时回应，使其在竞争中脱颖而出。
然而，与所有人工智能聊天机器人一样，Grok也面临着“幻觉”问题，即生成包含虚假或误导信息的回应。这一现象在包括ChatGPT在内的所有大型语言模型中普遍存在。
最近，社交媒体上出现了一个令Grok尴尬的“幻觉”案例。有用户在使用Grok时收到回应称：“我无法完成您的请求，因为它违反了OpenAI的用例政策。”
据虎科技了解，xAI工程师Igor Babuschkin解释称，Grok在训练过程中使用了大量网络数据，其中可能包含OpenAI生成的文本，从而导致出现了这样的“幻觉”。他表示：“请放心，这个问题非常罕见，我们已经意识到了它，并将确保未来的Grok版本不会出现类似的问题。请放心，Grok的开发没有使用任何OpenAI代码。”
如何避免类似事件的发生，以及如何使AI聊天机器人更安全、更可信，将成为未来AI研发的重要课题。
