为AI领域提供的十条建议

在此次AI Now年度研讨会上，汇聚了超过百位AI领域的顶尖专家和研究人员，深入探讨了AI对社会经济产生的深远影响。AI Now同时发布了其第二份年度研究报告，报告揭示了AI技术在多个关键领域的发展现状和挑战。

尽管公众对AI的未来充满了期待，但我们必须正视一个现实：将AI系统迅速整合到高风险领域正面临着前所未有的挑战。以刑事司法领域为例，Propublica团队及众多学者发现，用于预测罪犯再次犯罪的算法可能对非裔美国人存在显著偏见。在医疗保健领域，匹兹堡大学医学中心的研究指出，一款治疗肺炎的AI系统在风险评估方面存在缺陷。而在教育领域，德克萨斯州的教师评估算法问题更是引发了广泛的关注和讨论。这些问题并非个例，而是冰山一角，还有许多未被发现的问题正悄然存在。

这些问题的出现并非因为人们蓄意滥用AI技术，而是在技术使用过程中缺乏确保安全性和公平性的流程和标准。许多领域在引入新技术时都会进行严格的测试和长期监测，以确保其安全性和有效性。对于AI系统而言，尤其是在高风险领域，这种严谨的态度同样适用。

在报告中，AI Now为AI行业的研究人员和决策者提供了十项建议。值得注意的是，这些建议并非解决所有问题的，而是进一步工作的起点。尽管AI技术发展迅速，但对于算法偏见和公正的研究仍处在早期阶段。要确保AI系统能够负责任地部署和管理，还需要做大量的工作。AI Now表示，他们将持续研究并广泛分享研究成果。

关于如何使用AI技术，他们的第一个建议格外引人关注：在高风险的领域如刑事司法、医疗保健、福利和教育等，公共机构应避免使用“黑盒子”式的AI技术和算法系统。这些系统至少应接受公共审计、测试和审查，以确保透明度和问责制。这一建议反映了AI及相关系统已经对重大决策产生了深远影响，也表明了公众对于这一趋势的担忧和关注。

第二个建议是企业在发布AI系统之前应进行严格的预发布测试。这可以确保系统不会因为训练数据、算法等问题而出现错误和偏差。测试的方法、假设和结果都应公开透明，以适应不断变化的AI领域和新的发现。

第三个建议是企业在发布AI系统后应持续监控其在不同环境和社区的使用情况。特别是在高风险决策环境中，企业应重视传统边缘化社区的观点和经验。确保AI和算法系统的安全性是一个复杂的过程，需要持续的努力和投入。为了确保AI系统不会因为文化假设和领域变化而引入错误和偏差，必须对动态用例和环境进行持续监控。许多AI模型和系统具有通用性，其产品或服务可能会附加额外的功能，如情感检测或面部识别等。这些功能的引入也需要经过严格的测试和审查以确保其安全性和有效性。总之要确保人工智能技术在各个领域健康有序发展仍需我们不断探索和努力。建议四：深化研究AI在工作场所的应用与管理，推动政策制定

关于AI在招聘和人力资源领域的应用，需要进行深入研究并制定相应的政策。我们不仅要关注自动化替代工人的问题，更要注重劳动者权益和潜在行为操控的问题。特别是在招聘和晋升过程中，要确保AI系统的使用不会强化偏见或歧视。例如，HireVue这样的公司利用AI进行视频面试分析，虽然提高了招聘效率，但也引发了关于公正性和多样性的讨论。我们需要深入理解AI如何融入工作场所的各个环节，包括行为助推、检测环节和绩效评估等。在此过程中，不仅要关注被边缘化的工人问题，也要同样关注AI在整个工作场所的使用情况。推动跨学科合作和制定审查标准与规范也是至关重要的。我们必须充分了解AI系统的生命周期、数据来源和使用情况，以确保其公正性和透明度。这不仅需要技术专家的努力，也需要社会各界的参与和合作。只有这样，我们才能确保AI在工作场所的应用是公正、透明和负责任的。

建议五：建立标准，全程跟踪AI系统的数据与应用过程

随着AI系统的广泛应用，我们必须关注其可能带来的偏差问题。为了更好地了解和监督这些问题，我们需要制定一系列的标准和审查机制。这包括对AI系统整个生命周期的跟踪，包括其数据的起源、开发过程以及训练数据集的使用情况。我们还需要跨学科合作，深入研究数据中的潜在偏差和盲区。AI系统的数据反映了人类社会和历史的发展，但同时也可能带有偏见和成见。我们需要对训练数据集进行深度检验和理解，确保数据的公正性和准确性。我们还要重视数据的开发和采集过程，确保在此过程中能够识别和减轻错误和偏差。为了更好地实现这一目标，我们需要跨学科的合作和深入探索。通过结合不同学科的专业知识，我们可以更深入地理解偏差问题的本质，并找到更有效的解决方案。在这个过程中，我们也需要保持开放和透明的态度，定期审查和修订我们的标准和规范。只有这样，我们才能确保AI系统的应用是公正、公平和负责任的。只有这样我们方能更好的构建更加公正的社会与未来的人工智能技术发展之路。

建议六：超越技术边界，跨学科研究AI偏差问题

偏差问题是结构性问题的一种表现，解决它需要深度的跨学科研究合作。单纯的从技术的角度寻求解决方案往往会低估问题的复杂性和社会层面的影响。在教育、医疗、刑事司法等领域中，偏差问题有着自己的历史和实践背景。要解决AI系统中的偏差问题，就必须结合这些领域的专业知识进行深入研究和合作。计算机科学家可以与法律、医学、社会学等领域的专家紧密合作，共同研究AI数据形成过程中的结构性不平等问题。这种跨学科的合作有助于我们更好地理解数据的起源和使用情况，从而更好地识别和缓解数据中的偏差问题。我们也需要认识到解决偏差问题需要长期的努力和实践验证，不能盲目追求短期成果而忽视问题的本质和复杂性。我们需要建立更加全面和深入的审查标准和规范体系来确保AI技术的公正性和公平性发展为社会带来真正的利益而不是威胁与困扰我们的工作与生活环境的负面因素产生不良的影响的隐患发生情况出现与否的具体情况的解决之策尚待深入研究和探讨和探索的方向和发展之路走下的科学有效方法与指引我们共同努力的重要任务之一保障和维护未来的人工智能科技生态中利益共享与技术公平正义的一种关键的方式手段和目标实现重要路径之一。“人工智能应当服务人类而非控制人类”。这需要我们共同努力以建立更为公正公平的人工智能未来生态世界世界展开深入研究探索合作之路走好未来每一步一起推动社会公平化和谐发展的大势走向更好地维护全人类的利益和未来的美好生活质量和生活方式赋予人类的使命与挑战共勉共进朝着更高层次的和谐美好世界共同努力奋进是我们人类当下最需要思考的问题挑战的方向和任务之所在我们的未来发展道路中所必须关注和解决的问题与挑战不容小觑我们还需要积极制定并执行更加严格的人工智能应用审查标准和规范体系以确保人工智能技术在落地应用时能够真正符合公平公正的价值观并且得到全面的监管和评估确保人工智能技术在应用过程中能够为社会带来积极的影响而避免其产生负面的后果让我们携手努力共同推动人工智能技术的健康发展共同构建一个人类与人工智能和谐共生的美好未来！建议八：

AI领域的公司、大学、会议等利益相关者应积极公开其工作中参与的女性、少数族裔以及其他边缘群体的人数。我们深知当前AI领域研究人员缺乏多样性，但缺乏细粒度数据来全面反映问题的严重性。真正的包容性工作场所需要我们对科技行业的工作文化进行深层次评估，而这离不开详实的数据支撑，而不仅仅是表面上的增加女性与少数族裔的雇佣数量。

创造AI系统的人自身的假设和观点必然会对AI系统产生影响。由于AI的开发人员大多以男性白人为主，拥有相似的教育背景，这已经在实践中引发了一些问题，比如语音助手无法识别女性声音，或者AI助手无法提供关于妇女健康的信息。尽管在一般科技领域，文化多样性研究已经取得了一定的成果，但在AI领域的相关研究仍然寥寥无几。如果我们希望AI能够安全、公平地应用，我们就不能仅仅关注多样性和包容性，还需要确保AI公司的文化氛围是欢迎文化女性、少数族裔以及其他边缘群体的。为此，我们需要对这些群体的存在与贡献进行公示和宣扬，使之成为推动AI进步的重要力量。

建议九：

AI行业应拓宽视野，聘请计算机科学与工程以外的学科专家，并确保他们拥有决策权。随着AI在不同社会和机构领域的应用越来越广泛，它越来越多地参与到高风险决策中。我们需要将社会科学家、法律学者和其他领域的专家纳入AI的创建和整合过程中，形成长期的实践规范。正如我们不能让律师去优化深度神经网络一样，我们也不能仅仅依赖AI研究人员来成为刑事司法专家。对于所有需要整合信息技术的其他社会领域来说也是如此。我们需要法律、健康、教育等领域的专家参与决策过程，以确保AI能够全面理解并尊重各领域的复杂流程、历史和环境。他们的专业知识和经验将为AI的开发和应用提供宝贵的社会和文化视角，帮助我们在技术发展的更好地满足社会需求和尊重多元文化价值。

建议十：

在AI领域，我们需要建立严格的监督和问责机制来确保技术的革新始终符合道德和标准。针对引导人力资源领域的道德守则，应配合强有力的监督和问责机制来执行。我们还需要进一步努力，将高层次的原则和最佳实践准则与日常开发过程、产品推广和发布周期紧密结合起来。尽管一些计算机行业团体正在制定道德守则以确保AI开发的安全与平等性，但这些措施主要依赖于团队的自愿性，只有相对高端的组织才会将公众利益置于较高的优先级。我们需要明确的是：公众利益如何定义？由谁代表？以及如何确保AI代码的道德责任？我们还需要意识到AI行业在激励模式和权力分配方面存在不对称性。为此，我们需要建立一个由学家、技术专家和企业领导人组成的监管机制来全面监督AI的发展和应用。正如译者所言，我们如何信任AI是一个全球性的挑战。如果我们能够制定行业标准和道德标准，全面了解AI存在的风险并建立相应的监管机制，那么我们将能够利用AI为全人类谋福利。人工智能的潜力和威胁始终取决于我们人类的智慧和决策。