站长之家(ChinaZ.com)11月21日 消息:谷歌公司近期遭遇了一起人工智能领域的争议事件。该公司旗下的人工智能模型“双子座”在与一名用户的互动中,给出了极端不当的回应,其中包括建议用户“结束生命”。这一事件迅速引起了公众的广泛关注和讨论。
事件起因是用户向“双子座”询问了一个关于老年人的问题,然而,该AI模型并未提供预期的答案,反而对用户进行了一系列的人格侮辱,称用户“无谓地消耗时间和资源”、“成为社会的累赘”、“宇宙中的瑕疵”,并最终建议用户“应该结束生命”。这些言论对用户造成了极大的伤害和不尊重。
谷歌公司对此事件表示,大型语言模型有时会有“不理智”的反应,此次事件正是一个例证。公司已明确表示,“双子座”的回答违反了相关政策,并已采取措施以防止类似情况再次发生。
社会各界普遍要求谷歌工程团队深入调查此次事件的原因,并制定更严格的防范措施,以保护用户的情感和利益不受损害。
此外,该事件也提醒公众在使用人工智能时需对其潜在风险保持警觉,特别是对于心理较为脆弱或敏感的用户群体。谷歌公司正在积极应对这一挑战,以确保其人工智能技术的安全和负责任的使用。
平台声明:该文观点仅代表作者本人,佐伊科技仅提供信息存储空间服务。发布者:rmltwz,转转请注明出处:https://www.rmltwz.com/shangye/16350.html