道德和治理对人工智能的重要性

人工智能的承诺、可能性和潜力

人工智能的利用已经给当前及未来的社会带来巨大好处，例如提高供应链效率、推进智能自动化和机器人技术以支持我们的日常生活，以及在边境提供无缝通关。人工智能技术的进步如此之大，以至于它已经迅速接近，在某些情况下甚至超过了人类的智力。正如人类智能需要在具有良好道德和治理的人类社会中得到适当利用和协调一样，我们也需要对人工智能做同样的事情。

人工智能的黑暗面

有一些注意事项需要牢记。如果你听说过 GPT-4chan，那么也会听说它存在的问题。GPT-4chan 模型由人工智能 (AI) 社区的一位 Youtuber （油管博主）开发，是基于一个有争议的论坛 4chan 的 /pol/（政治不正确）板块开发的。4chan的/pol/（“政治上不正确”缩写）板块是仇恨言论、阴谋论和极右翼极端主义的家园，也是4chan最活跃的版块。结果呢？由此打造了一个发出仇恨言论的人工智能。

据报道，YouTube知名深度学习博主Yannic Kilcher用1.345亿个充满语言暴力的帖子，训练出一个名为“GPT-4chan”的AI模型，其通过训练学会了如何在网站上发表评论，并在一天不到的时间内发布了超过15000个充满负面言论内容的帖子。

尽管这看起来令人不安，但人工智能的基础可能会在不经意间鼓励这种做法，使人们可以轻松地将技术用于邪恶目的。随着社区越来越多地接受开源开发，这一点非常明显。这不再将人工智能应用的开发限制在少数特权公司，而是向所有人开放，当然这里面也包括不良行为者。

我们应该感到惊讶吗？包括比尔·盖茨、埃隆·马斯克和杰夫·贝索斯等名人都表达了担忧，并就人工智能的潜在危险发出了警告，尤其是围绕人工智能在武器系统中的使用和失业问题。

然而，我们今天所经历的大部分事情都在某种程度上涉及人工智能，例如社交媒体上专门针对我们的所谓个性化推荐广告，以及我们最喜欢的流媒体平台根据我们之前的选择和习惯向我们推荐新内容。如果我们真的想将人工智能的潜力变为现实，那么必须首先解决一些问题。

越来越多的担忧

人工智能系统近年来呈指数级增长。它产生了许多好处，但它并没有远离某些引发担忧的缺陷，特别是关于合规、道德和治理等话题的缺陷。

• 偏​见——消除偏见对于更准确地反映社会是必要的。这需要识别所有潜在的偏见领域并校准人工智能解决方案以解决这些问题。如果没有接受过各种数据集的训练，一个存在偏见的人工智能系统将提供有偏差的见解和建议。
• 失去控制——随着人工智能的使用越来越多，机器已经变得更有能力做出重要的决定。然而，在任何可能以任何方式影响人类的决策制定过程中，仍然有必要让人类参与。人工智能仍然无法正确解释情绪、将同理心应用于需要它的情况、通过道德判断或获得创造性结果。
• 技术不是万无一失的——创新是一项持续不断的工作，如果决策完全委托给几乎没有监督或校准的人工智能系统，那么总是存在潜在严重错误的风险。技术毕竟不完美。
• 隐私——隐私长期以来一直是与人工智能相关的主要伦理问题。例如，你的智能设备会不断从其环境中获取线索，例如语音，然后可以挖掘这些线索以获得洞察力和建议。基于人工智能的玩具也可以收集儿童数据，这是一个真正值得关注的问题。
• 信任的侵蚀——生物特征等敏感数据的无限收集和存储引发了有关信任的问题——负责人是否可以对我们的隐私数据做任何其他事情？

仅仅合规是不够的

解决这些问题需要我们超越单纯的法律合规性。相反，必须考虑各种因素，例如隐私、人权和社会可接受性。这种类型的问题解决不应仅限于参与人工智能开发和营销的企业。必须在整个供应链中处理与人工智能相关的问题——包括提供基于人工智能的服务的个人和组织。

这些包括：

• 遵守欧盟人工智能法案、美国人工智能风险管理框架、中国互联网信息服务算法推荐管理规定、新加坡人工智能伦理与治理知识体系等全球相关法律法规。
• 制定原则以指导和承认尊重人权是与人工智能使用相关的业务运营所有阶段的最高优先事项。
• 通过利用技术面对未来人工智能使用产生的社会问题。

在解决人工智能问题时，技术人员并不是唯一的利益相关者。政策制定者还将在帮助我们解决人工智能应用的潜在风险方面发挥重要作用。他们将负责：

• 加强现有的人工智能监管和治理框架。
• 倡导反复试验、重复测试和沙盒，以微调和校准 AI 模型和系统，以消除偏见风险。
• 制定针对人工智能在各个行业的各种应用量身定制的行业特定法规。

最后，还必须进行投资以确保生态系统仍然可行，并且有一个深厚而强大的人才库来持续为人工智能相关角色配备人员。咨询公司 Korn Ferry估计，到 2030 年，亚太地区的 TMT 行业可能面临 200 万人才短缺——包括 AI 专业人员，每年的机会成本将超过 1516 亿美元。

例如，新加坡已承诺投入 1.8 亿美元来加速 AI 研究和启动计划以提高具有 AI 技能的人的技能。虽然这些可能涉及人工智能工程和开发等“硬”技能，但“软”技能也很重要。新加坡南洋理工大学和新加坡计算机学会也相继开设人工智能伦理和治理课程，旨在认可和认证这些领域的专业人士。

伟大的希望，但需要更多的进步

最终，需要就人工智能能做什么和不能做什么进行深入和公开的讨论。组织和政府都需要确保它将用于使尽可能多的人受益。需要采取措施确保人工智能不会有意或无意地忽略社会的某些子集，缓解隐私和信任问题，并实施赋予人类一定程度控制权的保障措施。

人工智能在日常生活中越来越多的使用无疑将继续引发有关道德、合规和治理的问题。人类的人工智能目标是雄心勃勃的还是仅仅是危险的？这是一个所有相关利益相关者——政府、监管机构、创新者、科技公司和消费者——都需要共同努力回答的问题。