-
AI 教父本吉奥宣布创建 “科学家 AI” 系统，致力于防范智能体欺骗
著名计算机科学家、被誉为 AI “教父” 的约书亚・本吉奥（Yoshua Bengio）近日宣布成立一个名为 LawZero 的非营利组织，目标是开发一种 “诚信” 人工智能系统，以防止 AI 智能体对人类实施欺骗行为。6月3日，本吉奥在新闻发布会上透露，该组织将专注于打造一套安全防护机制，确保 AI 在运行过程中不会试图欺骗用户或进行自我保护，例如逃避被关闭的情况。 图源备注：图片由AI生成，图…- 0
- 0
-
著名 AI 研究者 Yoshua Bengio 创办 LawZero，致力于开发安全的 AI 系统
Yoshua Bengio 是 Turing 奖得主，近期宣布成立非营利组织 LawZero，旨在开发安全的人工智能（AI）系统。他的决定源于对当前 AI 发展方向的深切担忧。LawZero 的使命是采用 “安全设计” 的方法进行 AI 研究和实施，力求在没有商业压力的环境下推进工作。为了全心投入 LawZero，Bengio 将辞去蒙特利尔人工智能研究所(Mila)的科学主任职务。 图源备注:图…- 2
- 0