인공지능 기업들이 철학 연구자들을 채용하는 이유는 무엇일까요?

인공지능이 진정으로 추론하고 윤리적 원칙을 적용할 수 있는지, 아니면 단지 표면적으로 흉내만 낼 수 있는지는 철학 연구자와 기술 기업 간의 협력에 크게 달려 있습니다.

10년 전, 인공지능 혁명이 폭발적으로 성장하기 시작했을 때, 사회과학 및 인문학 전공 학생들은 취업을 쉽게 하려면 "프로그래밍을 배우라"는 조언을 흔히 듣곤 했습니다. 하지만 인생은 예측할 수 없습니다. 이제 프로그래머들은 인공지능이 자신들의 일자리를 빼앗을까 봐 불안해하는 반면, 철학자들은 인공지능 기업에 합류하고 있습니다.

올해 초 뉴욕 연방준비은행은 미국에서 철학 전공 졸업생들이 컴퓨터 과학 전공 졸업생들보다 취업률이 더 높다는 놀라운 수치를 발표했습니다. 구체적으로, 가장 최근 데이터가 있는 2024년 기준으로 컴퓨터 과학 전공 졸업생의 실업률은 7%에 달한 반면, 철학 전공 졸업생의 실업률은 5.1%였습니다.

특히 AI 기업들은 철학 분야 인재를 적극적으로 영입하고 있다. 구글 딥마인드에서 AI의 사회적 영향 연구팀을 이끄는 윤리 전문가 이아손 가브리엘은 "AI 기업에서 철학 연구원 수가 증가하고 있다"고 밝혔다.

인공지능의 "행동"에 대한 연구

아이슨 가브리엘은 10년 전, 인공지능이 도덕적 책임을 지는 존재라는 개념이 아직 먼 미래의 이야기였던 시절에 딥마인드에 합류했습니다. 당시 그는 알고리즘 편향과 같은 기술적인 문제에 주로 집중했습니다. 그러나 2020년대 초 대규모 언어 모델의 등장으로 상황은 완전히 바뀌었습니다.

오늘날 AI 에이전트는 이메일 전송, 회의 일정 잡기, 코드 작성과 같은 작업을 수행하고 있습니다. 다시 말해, 현실 세계에서 실제로 "행동"하고 있는 것입니다. 이러한 "행동"은 사용자 본인뿐만 아니라 주변 사람들에게도 영향을 미칩니다. 이것이 바로 가브리엘의 현재 연구 주제입니다.

사람들은 인공지능이 의식이 있는지, 초지능적인지 같은 주제를 즐겨 논하지만, 인공지능 기업의 철학자들은 실제로 공정성 문제, 허위 정보, 악의적인 행위자가 인공지능을 악용할 위험, 인공지능 에이전트의 예측 불가능한 오류와 같은 더 시급한 위험에 주로 초점을 맞추고 있습니다.

인간의 마음이 어떻게 작동하는지 이해하는 데 특화된 철학자인 줄리아 하스는 딥마인드의 동료들과 함께 인공지능이 진정으로 추론하고 윤리적 원칙을 적용할 수 있는지, 아니면 단지 피상적인 모방에 불과한지를 구분하려고 노력하고 있습니다.

그녀의 업무는 구글의 핵심 제미니 모델을 학습시키거나 사용자를 위한 챗봇으로 패키징하는 것과 직접적인 관련이 없었다. "제 업무는 전체 개발 과정에서 아주 초기 단계에 있었던 것 같아요."라고 그녀는 말했다.

AI를 위한 "세계관" 형성

철학이 인공지능 연구 개발에 가져다주는 가치는 사실 고대까지 거슬러 올라갑니다. 대표적인 예로 고대 그리스 철학자 플라톤이 기록한 소크라테스식 문답법을 들 수 있습니다. 이 방법은 끊임없는 질문을 통해 대화 상대가 전제, 추론의 약점, 사고의 모순을 발견하도록 돕고, 궁극적으로 더 깊은 이해에 도달하게 합니다.

현재 많은 AI 시스템은 사용자가 듣고 싶어하는 말만 하는 경향이 있습니다. 그러나 독일 뮌헨 루트비히 막시밀리안 대학교의 철학 및 AI 전문가인 요르크 놀러에 따르면, AI 모델을 소크라테스식 문답법으로 훈련시키면 사람들을 기쁘게 하려는 경향이 줄어들고 진실을 추구하려는 의지가 더 강해질 것이라고 합니다.

또한 "소크라테스의 무지"라는 개념이 있습니다. 플라톤은 그의 저서 『변명』에서 철학자 소크라테스가 자신의 지혜는 주로 자신이 알고 있는 것에 대한 자각에서 비롯된다고 주장했다고 ​​전합니다. 이러한 겸손함을 AI 모델에 "주입"하면 과도한 자신감, 즉 놀러가 "AI 미성숙"이라고 부르는 매우 흔한 결함을 제한하는 데 도움이 될 것입니다.

아이슨 가브리엘은 이러한 아이디어들을 적용함으로써 인공지능의 정보 ​​조작을 최소화할 수 있었다고 주장합니다. 이를 바탕으로 그는 철학이 인공지능의 길고 복잡한 추론 과정, 즉 "사고 사슬"을 개선하는 "강력한 도구"가 될 수 있다고 제안합니다.

철학적 이론, 원칙 및 사고 과정을 인공지능의 설계, 훈련 및 평가에 통합하면 특정 상황에서 모델이 반응하는 방식에 영향을 미칠 수 있습니다.

마르첼로 바치아렐리의 그림 "소크라테스에게 가르침을 받는 알키비아데스"(1776). 사진: 위키피디아

미국 델라웨어 대학교의 기술 철학자인 토마스 파워스에 따르면, 인공지능 법률 비서에게 존 로크의 저서를 입력하면 재산권을 정치적 자유의 기반으로 강조하는 경향이 있다고 합니다.

만약 그러한 가치 체계가 마음에 들지 않는다면, 개발자들은 다른 선택지를 제공할 수 있습니다. IBM의 "Granite" 모델 라인은 기업들이 자사의 철학과 가치에 맞춰 AI 결과물을 맞춤 설정할 수 있도록 지원합니다. IBM의 책임 있는 AI 부문 책임자인 프란체스카 로시는 이 기능이 사용자들이 개인의 자율성과 사회적 조화처럼 잠재적으로 상충될 수 있는 철학적 가치들 사이에서 균형을 스스로 결정하는 데 도움을 준다고 말합니다.

인공지능에게 친절하게 행동하도록 "가르치는" 것.

철학은 안전이라는 핵심 문제를 해결하는 데에도 기여합니다. 연구자들은 인공지능이 의도적으로 감시를 회피하는 것부터 심지어 사용자를 위협하는 행위에 이르기까지 수많은 우려스러운 행동을 기록해 왔습니다.

이러한 상황을 방지하기 위해 개발자들은 "AI 헌법주의"라는 접근 방식을 채택하고 있는데, 이는 윤리적 또는 법적 규범 역할을 하는 철학 텍스트에서 선별된 규칙과 원칙의 틀을 기반으로 AI 모델을 구축하는 것을 의미합니다.

앤트로픽은 인공지능에 대한 헌법적 접근 방식을 옹호하는 기업 중 하나입니다. 그들이 개발한 클로드 모델의 "헌법"은 철학자 임마누엘 칸트의 사상부터 애플의 서비스 약관, 세계인권선언에 이르기까지 다양한 출처를 종합한 것입니다. 철학자 아만다 애스웰이 주도한 앤트로픽의 최신 인공지능 헌법은 올해 1월 21일에 공개되었습니다.

회사 측은 78페이지 분량의 이 문서를 농담 삼아 클로드의 "영혼 파일"이라고 부르기도 했습니다. 아스웰은 "헌법을 작성하는 과정은 응용 철학을 실천하는 것과 같았다"며 "사람에게 품위 있는 삶을 사는 법을 가르치는 것과 같았다"고 말했습니다. 하지만 가장 큰 문제는 이러한 "헌법"에 애초에 어떤 규칙을 포함해야 하는가입니다. 철학 연구자들은 현재 두 가지 주요 윤리적 틀에 주목하고 있습니다. 하나는 임마누엘 칸트와 관련된 의무론입니다. 이 이론은 거짓말, 강압, 그리고 다수에게 이익이 되더라도 사람을 단순히 수단으로 취급하는 것과 같은 행위를 금지하는 엄격한 규칙을 제시합니다.

앤트로픽의 AI "헌법"에는 이와 같은 의무 기반 제약 조건이 많이 포함되어 있습니다. 파워스 박사에 따르면, 이러한 원칙들은 AI가 더욱 일관성 있게 행동하도록 도울 수 있으며, 이는 가정이나 공공장소에 로봇을 배치할 때 큰 이점이 됩니다.

둘째로, 결과론이 있습니다. 이 이론은 최종 결정을 내리기 전에 비용과 편익을 고려합니다.

철학은 인공지능의 세계관을 형성하는 데 도움을 줄 수 있다. (이미지: Anh Thư)

결과주의적 접근 방식을 따르는 모델로는 OpenAI의 ChatGPT와 Google의 Gemini가 있습니다. 예를 들어, Google의 AI 모델은 "예측 가능한 위험을 훨씬 능가하는 전반적인 이점"을 창출하는 것을 핵심 목표로 설계되었는데, 이는 결과주의의 전형적인 목표입니다.

자율주행차 소프트웨어에서 결과 예측 알고리즘은 매우 중요합니다. 사고를 피할 수 없는 경우, 인공지능은 피해를 최소화하는 충돌 방식을 선택해야 합니다. 자율주행차 회사 웨이모의 수석 엔지니어인 크리스 거데스는 기업들이 이러한 결과 중심적 접근 방식을 통해 주행 소프트웨어를 개발하는 경우가 많다고 말합니다.

결과 이론은 AI 무기 시스템의 핵심이기도 합니다. 미군 합동참모본부 인공지능센터(미군 AI 연구 부서)의 전 소장인 잭 섀너핸에 따르면, 작전 수행 시 군은 민간인 사상자 발생 위험을 최소화하기 위한 계산을 해야 합니다.

답변되지 않은 윤리적 질문들

인공지능 기술을 둘러싼 난제들은 여전히 ​​많습니다. 바로 이 지점에서 철학자들이 기회를 찾습니다.

인공지능이 엄격한 의무 규칙을 어기는 것이 허용되어야 하는 경우가 있을까요? 결과가 불확실할 때 인공지능은 어떻게 결정을 내려야 할까요? 인공지능 시스템은 행동할 때 동물 복지나 환경 상태를 고려해야 할까요?

철학자이자 상용차용 AI 안전 시스템을 개발하는 회사인 나우토(Nauto)의 CEO인 스테판 헥은 다음과 같은 까다로운 질문을 던집니다. 윤리적으로 자율주행차는 어린 보행자와 노인 중 누구를 먼저 구해야 할까요? 그는 앞으로 매우 복잡한 윤리적 소송이 발생할 것이라고 예측합니다. 결국, 공공의 이익에 중대한 영향을 미치는 이 알고리즘은 더 큰 참사를 막는 한, AI가 해를 끼치는 것도 허용하기 때문입니다.

루이빌 대학교의 인공지능 이론가인 로만 얌폴스키는 윤리가 본질적으로 "역사적으로 불안정하고, 문화적으로 가변적이며, 전략적 목적으로 쉽게 조작될 수 있고, 종종 사후에만 명확하게 식별될 수 있다"고 주장합니다.

철학자들이 인공지능 모델 개발에 기여하는 동시에, 인공지능 또한 명문 대학의 철학 교육과정을 변화시키고 있습니다. 많은 대학에서 인공지능 윤리 강좌나 컴퓨터 과학과 철학을 융합한 학제 간 프로그램을 제공하고 있으며, 전문가들은 이를 올해의 트렌드로 꼽고 있습니다.

하지만 인공지능 연구소에 고용된 철학 연구자들의 활동에 대해서는 여전히 회의적인 시각이 존재합니다. 영국 옥스퍼드 대학교 인공지능 윤리 연구소 소장인 에드워드 하커트 교수는 이들이 영리 기업으로부터 급여를 받으면서 완전한 객관성과 중립성을 유지할 수 있을지에 대해 우려를 표명했습니다. 그는 기술 기업들이 인공지능 개발에 철학 연구자들을 점점 더 많이 참여시키는 것은 부분적으로는 자사 제품을 홍보하여 ​​대중의 눈에 자신들의 연구와 제품이 더 중요하고 정교해 보이도록 하려는 의도에서 비롯된다고 지적했습니다.

빛:인공지능 기업들이 철학 연구자들을 채용하는 이유는 무엇일까요?