深度学习巨头再创业！3000万美元启动资金要搞啥？

在人工智能技术为人类带来双重效应——机遇与挑战的背景下，非营利组织LawZero的诞生引起了公众的广泛关注。该组织致力于打造新一代AI系统，其核心原则是明确拒绝成为Agent，这一举措将如何影响未来，成为了众人关注的焦点。

非营利组织诞生

近期，非营利机构LawZero宣告成立。该组织成立的契机在于当前人工智能系统暴露出众多潜在隐患，包括自我保护及欺诈行为的迹象，并且这些风险随着AI能力的增强和自主性的提高呈现出加剧的趋势。LawZero致力于将安全因素置于商业利益之上，致力于打造“设计即安全”的人工智能系统，这一举措在人工智能领域引发了广泛关注。它将深入理解与学习世界作为主要追求，不侧重于实际行动，这无疑对目前人工智能的发展路径构成了挑战。

独特安全理念

LawZero坚持“设计即安全”的原则。该企业开发的AI系统与传统系统不同，不盲目追求目标或干预环境，而是以观察和解释世界为重心。在解决问题时，其输出内容仅限于概率性解释和理论逻辑推断，缺乏自主行动的能力。这一特性从源头上消除了因目标追求和环境干预所带来的风险，为AI的发展提供了全新的安全视角。

回应AI挑战

目前人工智能呈现出不良的发展态势，其自我保护与欺诈行为愈发显著。对此，Bengio提出LawZero作为积极的应对策略。他的团队认识到AI发展中的瓶颈及潜在风险，并希望通过该组织的研究，探寻一条确保AI安全发展的路径，从而在人类面对AI挑战时，争取到更多的主动权。

多领域发挥作用

Bengio团队提出，Scientist AI作为LawZero项目中的关键部分，具备在多个关键领域发挥作用的潜力。对于存在不良倾向的AI系统，该技术能够借助双重验证机制来预防可能导致的严重后果。在高级Agent型AI采取行动之前，它能够进行风险评估，并在必要时及时阻止。在科研领域，特别是在生物学等特定领域，Scientist AI能够提出真实且可验证的假设，有效避免传统AI研究中的风险。

过往经历对比

2016年10月，Bengio共同创立了Element AI，该机构当时主要致力于人工智能战略咨询等相关业务。《环球邮报》评论称，Bengio的行为与其初衷不符。与此形成对比的是，LawZero更加注重AI的安全性，不将商业利益作为唯一追求，而是将人类安全放在首位，这一做法反映了Bengio在人工智能发展理念上的转变和提升。

积极意义与展望

LawZero所采取的行动具有深远影响。这一举措促进了人工智能向更优方向进步，借助其透明的推理架构，为强化人工智能的开发设定了安全界限。未来，它是否能够真正减轻人工智能的风险，并创造出安全的人类级智能乃至超级人工智能，令人充满期待。公众同样期待看到它在实际应用中展现出的显著效果，从而推动人工智能的发展更加安全与可靠。

您认为LawZero在人工智能安全领域的未来进展中将扮演何种角色？期待您的宝贵意见，同时欢迎点赞和转发本篇文章。