最近，Microsoft修改了其政策，对美国警察部门使用Azure OpenAI Service设置了新的限制。更新明确禁止在美国执法机构部署Azure OpenAI Service以分析文本和语音。
更具深远影响的指令现在涵盖了全球范围内的执法活动，特别是在移动设备上（如警用摄像机）禁止实时人脸识别应用。这些变化似乎直接针对在公共空间中进行未经监管的实时识别尝试的潜力。
此政策修订跟随了一项由Axon公司推出的产品，该公司专门从事执法技术，该产品整合了OpenAI的GPT-4模型，用于分析警用摄像机的音频。该公告引发了对人工智能内在缺陷的担忧，例如可能在算法中创建的不准确性和嵌入的种族偏见，这可能不成比例地影响有色人群。
禁令的全面范围明确规定了其限制范围：仅限于美国警察部门。条款不排除在指定环境中使用固定摄像头进行人脸识别。这一发展符合微软和OpenAI谨慎对待执法和国防项目的态度。OpenAI以前曾拒绝与军方合作，如今积极参与包括网络安全在内的五角大楼倡议。
随着Azure OpenAI服务逐渐获得政府批准，力争获得国防部项目的进一步认可，技术合作伙伴维持了部分沟通封锁，对最近的政策变化保持沉默。
关于微软限制警方获取生成式人工智能技术的话题，有几个重要的问题和议题浮出水面：
关键问题和回答：
1. 执法机构使用人工智能技术会引发哪些担忧？
人们对人工智能存在的担忧包括AI算法中可能存在的偏见风险，可能导致种族歧视，侵犯公民的隐私和公民自由。
2. 为什么微软要限制警方使用其人工智能技术？
微软可能希望防止技术被滥用，以及可能由技术的意外结果引发的潜在争议，包括潜在的道德和法律问题。
3. 还有哪些技术公司监管警方使用人工智能的例子？
包括IBM、亚马逊和微软在内的几家技术公司之前已经处理了关切，要么中止了向警察部门销售面部识别技术，要么暂停了销售。
关键挑战和争议：
– 算法偏见： 生成式人工智能可能因为训练数据而出现偏见，引发人们对执法中的歧视和不公正的担忧。
– 隐私： 在监视中使用人工智能可能侵蚀隐私，特别是如果在公共空间广泛部署。
– 问责： 当人工智能系统出错时，要确定责任可能较为困难，尤其是在执法和刑事司法领域。
优势与劣势：
优势：
– 人工智能在许多情况下可以比人类更快速、更准确地处理大量数据，可能有助于调查和资源分配。
– 人工智能工具可以帮助识别可能逃过人类分析的模式和见解。
劣势：
– 对人工智能的依赖可能导致过度执法，特别是在历史上过度监视的社区。
– 人工智能可能加重现有的偏见和歧视性做法。
– 人工智能系统可能不透明，使了解结论如何得出变得具有挑战性。
有关微软及其人工智能倡议的更多信息，您可以访问微软官方网站：Microsoft.com。
要了解与人工智能技术相关的更广泛的道德关切，可以访问OpenAI的官方网站，了解它是人工智能领域的领先组织：OpenAI.com。