首页 > 科技圈 > 正文

AI 摘要“幻觉”风波未平,谷歌 Gemini 聊天机器人又被曝“胡言乱语”

IT之家6月5日消息,前段时间,谷歌搜索“AI摘要”(AIOverviews)功能因其经常提供具有严重错误的搜索结果而备受诟病,导致官方亲自下场保证后续会进行修正。而如今,又有网友爆料称谷歌旗下的人工智能产品“抽了风”,这次问题出在Gemini聊天机器人。

AI 摘要“幻觉”风波未平,谷歌 Gemini 聊天机器人又被曝“胡言乱语”

从北京时间昨夜至今日凌晨,有Reddit网友陆续发现,Gemini生成的回复偶尔会充斥着杂乱无章的代码和外文字母——这些结果对用户的查询毫无帮助。

过去几天里,部分Gemini用户陆续发现自己遇到了这一奇怪问题:Gemini会输出胡言乱语。这些回复可能是一连串的重复单词、短语,也可能是随机字符,回复的内容往往相当冗长,且与提示词毫无关联。

截至IT之家发文,谷歌暂未对上述问题进行回应。

AI 摘要“幻觉”风波未平,谷歌 Gemini 聊天机器人又被曝“胡言乱语”

AI 摘要“幻觉”风波未平,谷歌 Gemini 聊天机器人又被曝“胡言乱语”

AI 摘要“幻觉”风波未平,谷歌 Gemini 聊天机器人又被曝“胡言乱语”

AI 摘要“幻觉”风波未平,谷歌 Gemini 聊天机器人又被曝“胡言乱语”

AI 摘要“幻觉”风波未平,谷歌 Gemini 聊天机器人又被曝“胡言乱语”

据外媒9to5Google报道,这些奇怪的回复结果会在Gemini网页端、移动端出现,且往往都以“Full”或“Fullbor”开头。不过,在大多数情况下,Gemini仍然会正常回应用户提出的请求。

相关阅读:
买5台家电要下4个APP管理?破解智能家居联通难题 英伟达黄仁勋否认三星 HBM 未通过测试,认证过程需要更加耐心