兰德公司是一家有影响力的智库，因其参与制定美国人工智能政策而受到密切关注。最近的一项披露表明，兰德公司大力起草了乔·拜登总统关于人工智能（AI）的行政命令，特别关注先进人工智能系统的报告要求。虽然此举旨在减轻与人工智能相关的潜在灾难性风险，但人们对兰德公司主要捐助者开放慈善事业的影响力产生了担忧。
兰德公司对人工智能政策的影响
拜登总统于 XNUMX 月发布的人工智能行政命令概述了规范先进人工智能技术的使用和开发的报告要求。这些要求类似于开放慈善事业的政策优先事项，旨在解决人工智能带来的生存风险，例如使用人工智能系统制造生物武器的潜在风险。
值得注意的是，兰德公司首席执行官杰森·马西尼（Jason Matheny）和兰德公司高级信息科学家杰夫·阿尔斯托特（Jeff Alstott）是有效利他主义运动的杰出人物，该运动倡导数据驱动的慈善方法，并强调解决人工智能世界末日潜力的重要性。
开放慈善事业的贡献
由 Facebook 联合创始人达斯汀·莫斯科维茨 (Dustin Moskovitz) 和他的妻子卡里·图纳 (Cari Tuna) 资助的 Open Philanthropy 是兰德公司的重要捐助者，仅今年一年就捐赠了超过 15 万美元。该组织将其慈善事业与有效的利他主义结合起来，这将人工智能技术置于其关注的最前沿。
有效的利他主义者，包括兰德公司的利他主义者，主张负责任地开发和监管人工智能，以防止滥用这一强大技术。随着政策制定者越来越认识到解决人工智能潜在危险的必要性，他们在华盛顿的影响力不断增强。
平衡优先事项
批评者认为，有效利他主义对人工智能的强烈关注可能会转移政策制定者对现有人工智能相关问题的注意力，从而无意中满足科技巨头的利益。这些问题包括人工智能系统中种族偏见的长期存在和版权保护的侵蚀。
这种批评引发了人们对人工智能政策制定中潜在偏见的质疑。与有效利他主义有联系的兰德人员参与起草行政命令并影响人工智能监管的方向。
针对这些担忧，兰德公司发言人 Jeffrey Hiday 承认兰德公司人员在起草人工智能行政命令中发挥了作用。他解释说，兰德的核心使命是研究和分析关键主题，并与政策制定者分享专业知识。然而，鉴于该组织与开放慈善事业的联系，希迪并没有直接回应人们对该组织客观性的担忧。
员工担忧
最近有关兰德公司参与制定人工智能政策的消息并没有被其员工忽视。在 XNUMX 月份的一次全体会议上，一名员工表示担心该智库与开放慈善事业的联系可能会损害其严谨和客观的声誉。有人担心兰德与有效利他主义的联系可能会导致“有效利他主义议程”优先于公正的政策制定。
兰德公司在制定拜登总统人工智能政策方面的巨大影响力引发了人们对该组织客观性和潜在偏见的质疑。尽管该智库声称其参与符合其为政策制定者提供专业知识的使命，但人们仍然担心开放慈善事业和有效的利他主义运动对人工智能政策制定的影响。
随着人工智能不断发展并在社会中发挥越来越重要的作用，参与制定人工智能政策的政策制定者、智囊团和组织必须保持透明度和公正性，以确保这一变革性技术的负责任的开发和监管。随着人工智能技术的发展，关于如何在创新和防范潜在风险之间取得平衡的争论可能会继续下去。
