人工智能先驱、加拿大计算机科学教授班吉欧成立非营利组织LawZero，旨在开发“科学家人工智能”（Scientist AI）等监控软件，以降低生成式AI快速普及带来的固有风险，包括恶意使用、软件缺陷以及超智能AI失控可能造成的极大伤害。
防止人工智能失控 顶尖科学家开发监控软件
综合新闻
AI Summary
TL;DR: Key points with love ❤️人工智能先驱、加拿大计算机科学教授班吉欧成立非营利组织LawZero，旨在开发“科学家人工智能”（Scientist AI）等监控软件，以降低生成式AI快速普及带来的固有风险，包括恶意使用、软件缺陷以及超智能AI失控可能造成的极大伤害。
Trending- 1 今日: 班吉欧宣布成立非营利组织LawZero。
- 旨在降低人工智能的固有风险，防止其失控或被恶意使用，保护人类免受潜在伤害
What: 人工智能先驱、加拿大计算机科学教授班吉欧成立非营利组织LawZero，开发“科学家人工智能”（Scientist AI）等监控软件，以降低生成式人工智能（generative AI）快速普及带来的固有风险。
When: 今日 (2025-06-04) (班吉欧宣布成立LawZero)
Where: 全球 (涉及AI发展)
Why: 担忧生成式AI快速普及可能被恶意使用（散播假消息、生物武器、网络攻击），或软件本身出现问题，以及超智能AI失控可能给人类造成极大伤害。
How: 成立非营利组织LawZero，开发专门训练的“科学家人工智能”作为安全防护，确保其他AI行为正确。