白宫要求联邦机构进行人工智能偏见测试

白宫以负责任的方式推动美国政府采用人工智能技术，其中一项重大举措是规定需要对政府机构使用的人工智能工具进行有偏见的测试。

通过 OMB 发布的行政命令提出了拜登政府的关键政策议程之一，旨在将可能出现的风险降至最低，包括歧视和侵犯隐私的风险。

联邦机构为人工智能监督和问责做好准备

正如政府政策中所宣布的那样，联邦机构将制定强有力的操作系统，以符合人民的权利和安全。 它们应该在 12 月 1 日之前实施，届时人工智能的应用将能够影响人们的生活。

特别是，这些措施旨在消除不同部门之间的区别、对私人领域的侵犯和分歧，包括交通、医疗保健和服务提供方面的安全。 除了采取其他措施确保监督外，还应任命人工智能或犯罪与执法部门的负责人

为了监督 OMB 人工智能指导的执行方式并协调其在不同办公室的使用，将任命首席人工智能官。 这些官员将参与创建和保证联邦政府内部的人工智能部署是透明和负责任的。

副总理卡马拉·哈里斯强调这些国内政策旨在成为全球行动的典范，并强调在人工智能利用中优先考虑公共利益的重要性。 政府计划在今年夏天雇佣至少 100 名专注于人工智能的员工，进一步凸显其对这一举措的承诺。

高风险系统的严格测试

高级政府官员概述说，高风险系统将接受严格的测试，以识别和减轻潜在的偏见和风险。 这种积极主动的做法强调了政府对确保在政府运作中负责任地使用人工智能技术的承诺。

根据新的指导方针，如果美国人认为系统导致了影响他们的虚假信息或决策，他们可以寻求补救措施。

联邦机构必须发布系统、风险评估和管理策略的列表。 对于不符合管理规则的软件，可以给予豁免，但必须提供理由，以促进人工智能部署的透明度和问责制。

挑战和未来方向

民主与技术中心总裁兼首席执行官亚历山德拉·里夫·吉文斯 (Alexandra Reeve Gives) 称赞该指南是确保联邦机构内负责任地使用人工智能的重要一步。

吉文斯强调了制定严格流程来评估新技术对个人和社区的潜在影响的重要性。

尽管联邦机构多年来一直在利用人工智能技术，但国会对人工智能的更广泛监管却陷入停滞。 因此，拜登政府正在利用政府作为主要技术客户的地位来建立保障措施并促进负责任的人工智能采用。

尽管政府采取了积极主动的措施，但挑战仍然存在，特别是在人工智能系统中长期存在偏见方面。 人工智能驱动决策中的种族偏见和不准确现象凸显了对人工智能部署持续保持警惕和监督的必要性。

白宫要求联邦机构对人工智能的使用进行偏见测试和监督，这是确保人工智能技术负责任且合乎道德地采用的重要一步。 通过实施具体的保障措施、提高透明度和加强公共问责制，政府旨在解决潜在风险，同时利用人工智能的变革潜力造福社会。