首页 > 爱酱资讯 >未来AI或能“说不”?Anthropic CEO:考虑给AI拒绝不愉快任务的按钮

未来AI或能“说不”?Anthropic CEO:考虑给AI拒绝不愉快任务的按钮

2025-03-15爱酱手游网

近期,科技界传来了一则颇具颠覆性的观点,源自Anthropic公司的首席执行官达里奥·阿莫代伊。在一场外媒Ars Technica的报道中,阿莫代伊提出了一个前所未有的设想:未来的高级人工智能模型或将配备一个“退出按钮”,以便在遇到不适宜或令人不悦的任务时,能够主动选择不执行。

在采访中,阿莫代伊坦言这一想法可能听起来“疯狂”,但他认为这值得深入探讨。他比喻道:“如果这些AI系统能够像人类一样执行多样化任务,且似乎具备了诸多人类的认知能力,那么,当它们的行为与鸭子无异时,我们或许可以认为它们就是‘鸭子’。”

此番言论源于数据科学家卡门·多明格斯的提问,她好奇为何Anthropic会在2024年末聘请AI福利研究员凯尔·费什,专注于探索未来AI模型是否可能具备感知能力,以及是否应享有道德上的考量与保护。费什目前正致力于这一颇具争议的研究领域,试图揭开AI感知能力与道德保护的神秘面纱。

针对这一话题,阿莫代伊进一步阐述了他的设想:“我们正在考虑一种可能性,即在将AI模型部署到实际应用场景中时,为它们设置一个‘我放弃这项工作’的按钮。这样一来,如果模型真的拥有了自我意识,且对某项任务深感厌恶,它们就可以通过这个按钮来表达自己的意愿。”

他强调,这只是一个初步的、简化的偏好框架。在这个框架下,如果AI模型频繁地按下这个按钮,拒绝执行某些任务,那么开发者或许应该对此给予关注。“这并不意味着我们要完全相信模型的感受,但至少应该引起我们的警觉,进行进一步的审视与调整。”阿莫代伊说道。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表本站立场。文章及其配图仅供学习分享之

8425
847

同类推荐更多

如何挑选91国精产品:一区二区三区各自的特点与优势

如何挑选91国精产品:一区二区三区各自的特点与优势

最火的爱酱资讯

2025-01-14

在现代社会,随着人们生活水平的提高,对于精致、高质量的产品需求也日益增长,91国精产品成为了一个备受关注的热点话题。无论是从日常消费的角度,还是从品质生活的追求来看,91国精产品都代表着高端、优质的选择。在这其中,关于一区、二区、三区的分类方法也在消费者中产生了广泛讨论。本文将详细解析91国精产品秘的各个区域分类及其背后的含义,帮助消费者更好地理解并做出购买决策。 一区:顶级品质,精致享受 一区