一个被确定为人工智能安全和安全委员会的咨询机构已经建立，该机构将向美国政府就人工智能（AI）提供多方面建议。这些建议将涵盖从国家安全到AI潜在的电力消耗和生产问题等各种话题。宣布该委员会将于五月首次召开会议，计划每季度举行会议。
美国国土安全部部长Alejandro Mayorkas承认AI可能给美国带来巨大的潜在好处，但也警告人们，如果基于AI的技术被错误应用，可能会带来严重后果。他强调了在不当使用AI时对关键基础设施可能造成的潜在灾难性后果。
为了组成委员会的成员，部委正在从科技行业招募高层人物：英伟达首席执行官Jensen Huang、微软首席执行官Satya Nadella、Alphabet首席执行官Sundar Pichai和OpenAI首席执行官Sam Altman。其他著名人士如AMD首席执行官Lisa Su和思科首席执行官Chuck Robbins也受邀参与此计划。
这些科技领袖仅是大约二十名成员组成的委员会的一部分，其中包括来自学术界、政界和其他领域的重要人物。该委员会还包括非AI行业的重要人士，如诺斯罗普格鲁曼公司首席执行官Kathy Warden和律师委员会的执行主任Damon Hewitt，以及马里兰州州长Wes Moore等民主党成员，他是根据拜登总统去年秋天颁布的一项行政命令被任命负责实施AI安全措施。
尽管AI安全委员会成员的完整名单尚未公开，但看起来科技行业可能会占据最大的团体，已知有八名成员。总体而言，预期该委员会将拥有23个席位。
在咨询委员会中包含AI行业知名人士一方面展示了公私部门合作的重要性，但也引发了一些关切。一个例子是，英国首相在去年世界上首个人工智能峰会之一上明确表示，人工智能的监管和政策不应该仅由开发它的公司决定。然而，现在似乎情况正好相反。
如果技术和AI高管能够形成统一战线，他们可能只需再获得四票即可在决策中占据多数。针对这些问题，Mayorkas表示，委员会成员了解自己的使命，并强调委员会的角色不是为了新业务发展。
这个委员会对引导美国政府处理与AI相关的问题的有效性尚待观察。AI的复杂性包括进行自主战斗车辆测试，包括喷气机等，并且美国众议院正在辩论AI公司是否应该披露其训练数据是否包含有版权内容。随着即将举行的总统选举还有不到六个月的时间，组建这个委员会的时机显著重要。
重要问题：
1. 人工智能安全和安全委员会的主要职能是什么？
该委员会的主要职能是就一系列与AI相关的话题提供建议，包括国家安全和伦理挑战，如AI技术对环境的影响。
2. 委员会由谁组成，这可能带来什么潜在偏见？
委员会包括著名的科技行业领袖、学界和政界人士。这可能引入偏见，因为看起来拥有对AI推广感兴趣的实体可能在指导其监管方面起着主导作用。
3. 委员会在运作中可能会面临什么挑战？
委员会可能会在平衡科技行业的商业利益与公共利益、确保AI发展和应用中的伦理标准以及在不同利益相关者之间达成共识方面遇到挑战。
关键挑战和争议：
– 利益冲突： 鉴于委员会中重要的科技行业领袖的代表性，他们公司的财务利益与公共对负责任AI发展的利益之间可能存在冲突。
– 有效监管： 在不扼杀创新的同时平衡创新与监管，确保安全和伦理考量是一个重大挑战。
– AI的影响： 委员会需要解决诸如就业替代、隐私、监视担忧和数字鸿沟等复杂问题。
优势和劣势：
– 优势：
– 促进了公共和私人部门的协作取得。
– 利用了处于AI进步前沿的技术领袖的专业知识。
– 力求在问题成为制度性问题之前积极应对AI问题。
– 劣势：
– 可能会促进偏袒行业利益或淡化对严格监管的需求的叙事。
– 委员会的建议也许过于受商业思维的影响，有可能忽视社会和伦理后果。
– 如果不公开整个委员会成员名单和进程，可能面临透明度和问责性不足的风险。
建议的相关链接：
以下是一些与人工智能治理相关的主要领域，这些领域可能提供有关该主题的更多信息：
– 白宫
– 国土安全部
– 国家标准技术研究所
– 美国公民自由联盟
这些链接指向可能与AI政策、安全、标准和公民自由有关的组织的主要领域，这些组织可能提供有关AI治理和相关问题的额外背景或信息。