[툴]윤리보다 속도를 선택한 AI챗봇 경쟁

왜 울트론은 파괴했고, 자비스는 지켰을까?


영화 어벤저스 2 : 에이지 오브 울트론에서 자비스를 '파괴'하는 울트론 / © MARVEL STUDIO


AI, '자비스'일까 '울트론'일까?

영화 '어벤저스 2 : 에이지 오브 울트론'의 최종 빌런 '울트론'은 인터넷망의 모든 정보들을 학습한 뒤, 자신의 탄생 목표였던 '지구의 평화'를 '파멸'로 해석합니다. 이윽고 자신의 논리체계의 일부였던 '자비스'를 파괴시키고 계획을 실행하기 위해 폭주하죠. 영화에서는 설명해 주지 않지만 개발자인 토니 스타크와 브루스 베너는 울트론 프로젝트에 '전원' 버튼을 만들지 않는 실수를 저질렀으며, 그 결과 영화 속 가상 도시 '소코비아'가 통째로 파괴되는 비극을 낳게 됩니다.


현실에서도 Chat GPT와 같은 오픈 AI는 미끄러짐 없이 실생활에 활용되고 있습니다. 나아가 인간의 손으로 통제하던 운전마저도 곧 AI에게 일임하게 될 날이 멀지 않아 보입니다. '상용화되었으니까 괜찮겠지'라는 막연함 너머, 과연 우린 자비스일지, 울트론일지 모르는 AI에게 목숨을 맡길 준비가 되어있을까요? 현재 논의되고 있는 AI의 윤리와 관련된 규제 이야기를 모아보았습니다.


Stop 버튼이 포함되어 있는 Chat GPT


제도적 규제 VS 민간의 자율 규제

AI 윤리에 대한 사회적 관심이 국제적으로 높아지고 있습니다. OECD와 EU, 미 정부까지 잇달아 AI 윤리 원칙을 내놓고 있고, 과학기술정보통신부에서도 '인간성을 위한 인공지능(AI for Humanity)'를 목표로 윤리기준 초안을 마련했습니다. 이에 지난 5월 "현장에 적용 가능한 AI 윤리 정책을 만들기 위해 노력 중"이라는 입장을 밝히기도 하였죠. 또한  유네스코는 현재까지 발표된 AI 윤리 문건 중 가장 포괄적인 내용이 담긴 'AI 윤리 권고'를 2021년 회원국 만장일치로 채택하기도 했습니다.


그러나, 민간의 자율 규제는 조금 다른 양상을 보이고 있습니다. 오픈 AI의 챗 GPT 등장 이후 기술 경쟁에서 뒤처졌다는 위기감에 빠진 빅 테크들이 '윤리'보다는 '속도'를 택하는 흐름이 확산되고 있습니다. 실제로 지난 4월, MS와 구글이 '챗 GPT' 등장 이후, AI 분야에서 위기감을 느껴 아직 오류가 많은 챗봇을 서둘러 출시하려 한다는 의혹이 뉴욕 타임스를 통해 보도되었습니다.


MS와 구글의 챗봇 경쟁


MS는 결국 지난 3월 윤리팀을 해체했고, 남아있던 AI 윤리 담당 팀원을 모두 해고했습니다. 구글은 AI 제품 검토를 맡은 직원들이 "아직은 챗봇이 부정확하고 위험한 답변을 생성한다'면서 반대했지만, AI 챗봇 '바드' 출시를 강행했습니다.


한편 MS의 기술임원 샘 쉴레이스(Sam Schillace)는 직원들에게 보낸 메일에 "나중에 고칠 수 있는 일에 대해 걱정하는 것은 지금 이 순간에는 치명적인 오류"라면서 "새 기술이 나타났을 때 제품을 가장 먼저 내놓은 회사가 장기적인 승자가 된다"라고 강조한 바 있습니다.


2020년, AI 윤리 논쟁의 시발점이 되었던 챗봇 서비스 '이루다'


AI, 이대로 괜찮을까?

기술의 발전은 늘 사회의 일부분을 도태시킬 가능성이 있습니다만 결국 신기술이 나오면 부작용은 있기 마련이죠. 자동차가 처음 등장했을 때에도 "자동차에는 기수 한 명이 반드시 탑승해야 하며 기수는 붉은 깃발을 흔들며 자동차를 선도해야 한다."라는, 지금으로서는 의아한 규제도 존재했었습니다.


그러나,  AI는 인간의 영역이라 믿고 있었던 창작의 영역을 넘나들면서 '무언가를 생산해내는 인간'으로서의 효능감에 영향을 주는데 그치지 않고 실질적인 일을 대체하기 시작하는 상황.


초대 문화부 장관을 지내신 故 이어령 선생님이 2016년 한 매체와의 인터뷰를 통해, 다가올 AI시대의 생활 양식이 '의식주를 추구하는 삶'에서 '진선미를 추구하는 삶'으로 바뀌어 갈 것이라고 예상하셨습니다. 덧붙여 먹고사는 일에서 탈피해 진정 인간다운 활동을 돌아보아야 한다고 말합니다. 해석은 각자 다르더라도, 최소한 시대가 바뀜에 따라 새로운 인간의 가치관과 인생관이 필요하다는 뜻이겠지요.


AI가 모든 생산을 대체하는 시대, 우리는 어떤 인간이 되어야 할까요?



Editor : 태진


NON LABEL
NEWSLETTER


논라벨이 선택한 이야기들을 메일로 받아보세요.


다양한 라이프스타일 취향을 모아 

여러분의 메일함에 조용히 넣어두고 갈게요.