人工智能（AI）正在以前所未有的速度发展，据AI先驱Yoshua Bengio表示，联邦政府必须立即采取行动来监管这项技术。被称为“AI教父”的Bengio强调，当前AI的发展轨迹带来了重大的社会风险，渥太华应该不延迟地实施立法，即使它并不完美。
Bengio提出的一个主要关切是AI的潜在滥用问题，特别是通过制作深度伪造视频来传播虚假信息。这些视频利用AI来操纵视觉效果，使公众人物看起来好像做过或说过他们实际上从未发生过的事情。此外，AI还可以通过进行对话来欺骗社交媒体用户，从而改变他们的政治观点，导致潜在的民主原则侵蚀。
此外，Bengio还强调了高级AI系统被利用进行网络攻击的风险日益增长。随着AI技术的不断进步，这些系统可能变得足够强大，可以突破当前的网络防御并破坏关键的数字基础设施。如果这些能力落入错误的手中，后果将是灾难性的。
为了应对这些问题，下议院工业委员会目前正在研究一项旨在监管人工智能系统的政府法案。然而，Bengio强调了需要立即实施某些条款，而不是等待漫长的监管程序。他建议建立一个注册机制，要求开发具有特定能力的AI系统的公司向政府报告。这将把确保这些系统安全的责任从纳税人转移到技术公司身上。
Bengio还主张扩大法案对“高影响力”AI系统的定义，以包括那些构成国家安全和社会威胁的系统。这将包括可用于设计网络攻击和武器的AI系统，以及尽管编程指令相反但仍能自主复制的系统。
Universite de Montreal的教授Catherine Regis进一步强调了政府监管AI的紧迫性。Regis强调全球人工智能的快速发展，并强调加拿大必须明确其在AI监管方面的立场，以在全球治理讨论中发挥有意义的作用。
总之，人工智能技术的快速进步需要政府立即进行监管。通过主动应对与AI相关的风险，政府可以减轻这种强大技术可能带来的潜在社会和安全威胁。
常见问题解答：
问：根据Yoshua Bengio，AI的主要关注点是什么？
答：Yoshua Bengio对AI的潜在滥用问题，特别是通过制作深度伪造视频来传播虚假信息表示关注。
问：AI如何欺骗社交媒体用户？
答：AI可以与社交媒体用户进行对话，操纵他们的政治观点，潜在地侵蚀民主原则。
问：Bengio提到的另一个风险是什么？
答：Bengio还强调了高级AI系统被利用进行网络攻击的风险，如果这些能力落入错误的手中，后果将是灾难性的。
问：对于监管AI系统，提出了什么解决方案？
答：Bengio提议建立一个注册机制，要求开发具有特定能力的AI系统的公司向政府报告，将确保其安全的责任转移到技术公司身上。
问：Catherine Regis强调加拿大关于AI监管的什么问题？
答：Catherine Regis强调加拿大必须明确其在AI监管方面的立场，以在全球治理讨论中发挥有意义的作用。
关键术语和定义：
1. 人工智能（AI）：使计算机能够执行通常需要人类智能的任务，如语音识别、问题解决和决策。
2. 深度伪造：一种使用人工智能来操纵或创建虚假视频、音频或图像的合成媒体，其看起来是真实的，但实际上被修改或完全伪造。
3. 虚假信息：故意散布的虚假或误导性信息，旨在欺骗人们并操纵舆论。
4. 网络攻击：恶意尝试破坏、损坏或未经授权进入计算机系统、网络或数字设备。
5. 自主性：AI系统独立行动的能力，无需人工干预或依赖明确的编程指令。
建议相关链接：
– The White House AI Initiative（白宫人工智能计划）
– 英国政府：人工智能监管咨询（UK Government: Regulation of Artificial Intelligence Consultation）
– AI Laws：人工智能法规数据库（AI Laws: Database of AI Regulations）
– 世界经济论坛：全球竞争力报告2019（World Economic Forum: The Global Competitiveness Report 2019）
The source of the article is from the blog scimag.news