为什么人工智能公司要招聘哲学研究人员？

星期四 - 2026年2月7日 20:01

人工智能是否真正能够推理和应用伦理原则，还是仅仅表面上模拟它们，很大程度上取决于哲学研究人员和科技公司之间的合作。

十年前，人工智能革命开始爆发时，社会科学和人文专业的学生常常被建议“学习编程”，以便轻松找到工作。人生变幻莫测；如今，当程序员们焦虑地担心人工智能抢走他们的饭碗时，哲学家们却纷纷加入人工智能公司。

今年早些时候，纽约联邦储备银行公布了一些令人惊讶的数据，显示美国哲学专业毕业生比计算机科学专业毕业生更容易找到工作。具体来说，在2024年（最新数据年份），计算机科学专业毕业生的失业率达到7%，而哲学专业毕业生的失业率仅为5.1%。

尤其值得一提的是，人工智能公司正在积极招募哲学人才。“人工智能公司里的哲学研究人员数量正在增加，”谷歌DeepMind领导人工智能社会影响研究团队的伦理专家伊阿宋·加布里埃尔表示。

人工智能“行为”研究

伊阿宋·加布里埃尔十年前加入DeepMind时，人工智能作为具有道德责任感的主体这一概念还很遥远。当时，他主要关注算法偏差等技术问题。然而，2020年代初大型语言模型的出现彻底改变了这一局面。

根据最新统计数据，2024年计算机科学专业毕业生的失业率达到7%，而哲学专业毕业生的失业率为5.1%。（图片来源：圣托马斯大学）

如今，人工智能代理承担着发送电子邮件、安排会议和编写代码等任务——换句话说，它们实际上正在现实世界中“行动”。它们的“行为”不仅影响直接用户，还会影响周围的人。这正是加布里埃尔目前研究的重点。

虽然人们经常喜欢讨论人工智能是否有意识或是否具有超级智能之类的话题，但人工智能公司的哲学家们实际上主要关注的是更紧迫的风险，例如公平性问题、虚假信息问题、恶意行为者利用人工智能的风险，或人工智能代理出现不可预测的错误。

朱莉娅·哈斯是一位专门研究思维运作方式的哲学家，她与DeepMind的同事们一起，试图区分人工智能是否真正能够推理和应用伦理原则，还是仅仅是肤浅的模仿。

她的工作并没有直接参与训练谷歌的核心Gemini模型，也没有将其打包成用户聊天机器人。“我认为我的工作还处于整个开发过程的早期阶段，”她说。

塑造人工智能的“世界观”

哲学为人工智能研发带来的价值实际上可以追溯到古代。苏格拉底式辩论法就是一个典型的例子——由古希腊哲学家柏拉图记录下来。这种方法运用持续提问的技巧，帮助对话者发现自身的假设、推理中的漏洞和思维中的矛盾，从而达到更深刻的理解。

目前，许多人工智能系统往往“过于执着”，只说用户想听的话。然而，据德国慕尼黑路德维希-马克西米利安大学哲学与人工智能专家约尔格·诺勒（Jörg Noller）称，如果采用苏格拉底式教学法训练人工智能模型，它们就不会那么倾向于取悦人类，而更愿意探求真理。

此外，还有“苏格拉底式的无知”这一概念。柏拉图在其著作《申辩篇》中记载，哲学家苏格拉底曾断言，他的智慧主要在于他对已知事物的认知。将这种谦逊“注入”人工智能模型中，有助于限制过度自信——诺勒称之为“人工智能不成熟”的常见缺陷。

伊阿宋·加布里埃尔认为，应用这些理念有助于最大限度地减少人工智能捏造信息的情况。由此，他提出哲学是改进人工智能冗长而复杂的推理过程（也称为“思维链”）的“有力工具”。

将哲学理论、原则和思维过程融入人工智能的设计、训练和评估中，可以影响模型在特定情况下的反应。

据美国特拉华大学技术哲学家托马斯·鲍尔斯称，如果你将约翰·洛克的著作输入人工智能法律助手，它往往会强调财产权是政治自由的基础。

如果你不喜欢这种价值体系，开发者可以提供其他选项。IBM 的“Granite”系列产品允许企业定制 AI 输出，使其与自身的理念和价值观保持一致。IBM 负责任人工智能负责人 Francesca Rossi 表示，这项功能可以帮助用户自行决定潜在冲突的哲学价值观之间的平衡，例如个人自主与社会和谐之间的关系。

“教导”人工智能表现友善。

哲学也有助于解决安全这一核心问题。研究人员已经记录了人工智能无数令人担忧的行为，从故意逃避监控到甚至……威胁用户。

为了防止这种情况发生，开发人员正在采用“人工智能宪政主义”的方法，即根据从哲学文本中选取的规则和原则框架来构建人工智能模型，这些规则和原则可以作为伦理或法律规范。

Anthropic是倡导人工智能宪政化方法的公司之一。他们为Claude模型制定的“宪政”融合了众多来源——从哲学家伊曼努尔·康德的思想、苹果公司的服务条款到《世界人权宣言》。Anthropic最新版的人工智能宪政由哲学家阿曼达·阿斯韦尔牵头，于今年1月21日发布。

该公司甚至戏称这份78页的文件是克劳德的“灵魂档案”。阿斯韦尔评论道：“撰写宪法的过程就像实践应用哲学，就像教一个人如何过上体面的生活。”然而，最大的问题是，这些“宪法”从一开始就应该包含哪些规则？哲学研究者目前主要关注两大伦理框架。一是与伊曼努尔·康德相关的义务论。该理论制定了严格的规则，禁止诸如撒谎、胁迫以及将人视为工具等行为，即使这些行为有利于大多数人。

Anthropic公司的人工智能“宪章”包含许多此类基于义务的约束。据鲍尔斯博士称，这些原则有助于人工智能表现得更加一致——这在将机器人部署到家庭或公共场所时是一项重大优势。

其次，还有结果理论。该理论考虑成本和收益，从而得出最终决策。

遵循结果主义方法的模型包括 OpenAI 的 ChatGPT 和谷歌的 Gemini。例如，谷歌的 AI 模型的设计核心目标是创造“远大于可预见风险的总体收益”——这是结果主义的典型目标。

结果算法对于自动驾驶汽车软件至关重要。如果事故无法避免，人工智能将被迫选择造成损失最小的碰撞方式。自动驾驶汽车公司 Waymo 的高级工程师 Chris Gerdes 表示，企业通常会采用这种以结果为导向的方法开发驾驶软件。

结果理论对于人工智能武器系统也至关重要。据美国参谋长联席会议人工智能中心（美国武装部队的人工智能研究机构）前主任杰克·沙纳汉称，在作战行动中，军方必须计算如何最大限度地降低平民伤亡的风险。

未解答的伦理问题

人工智能技术仍然存在许多棘手的问题。这正是哲学家们能够发挥作用的地方。

是否存在人工智能可以打破严格职责规则的情况？当后果不明朗时，人工智能应该如何决策？人工智能系统在行动时是否应该考虑动物福利或环境状况？

哲学家兼Nauto（一家为商用车生产人工智能安全系统的公司）首席执行官斯特凡·赫克提出了一个棘手的问题：从伦理角度来看，自动驾驶汽车应该优先拯救年轻行人还是老年人？他预测未来将出现极其复杂的伦理诉讼。毕竟，只要能防止更严重的灾难发生，具有公共影响的算法就允许人工智能造成伤害。

路易斯维尔大学的人工智能理论家罗曼·扬波尔斯基认为，伦理本质上是“历史不稳定的、文化可变的、容易被操纵以达到战略目的的，而且往往只有在事后才能清楚地识别出来”。

哲学家们在为人工智能模型的构建做出贡献的同时，人工智能也在影响着著名大学的哲学课程设置。许多院校现在都开设了人工智能伦理课程，或者计算机科学与哲学交叉学科项目。这甚至被专家誉为年度趋势。

然而，人们对人工智能实验室聘用的哲学研究人员的工作仍存在一定程度的质疑。牛津大学（英国）人工智能伦理研究所所长爱德华·哈考特教授表示担忧，这些研究人员在从营利性公司领取薪酬的情况下，是否还能保持完全的客观性和中立性。他认为，科技公司越来越多地让哲学研究人员参与人工智能开发，部分原因是出于自我宣传的目的，目的是让他们的工作和产品在公众眼中显得更加重要和先进。