[시사오디세이] AI는 생각하고 대화할까?

양성광 한국기초과학지원연구원장

양성광 원장

딥러닝 '인공 신경망' 개념을 처음으로 고안해 인공지능의 대부로 불리는 제프리 힌튼 구글 부사장이 지난달 사표를 냈다. 그는 "AI 기술이 적용된 킬러로봇이 현실이 되는 날이 두렵다. 나쁜 행위자들이 AI를 악용하는 것을 어떻게 막을 수 있을지 모르겠다"며 구글을 떠나 AI의 위험성에 대해 자유롭게 말하겠다고 했다. 최근 일론 머스크 테슬라 CEO 등 AI 석학 1,000여 명은 최첨단 AI 시스템 개발을 6개월 동안 중단하고 안전 프로토콜을 만들 것을 촉구했다.

반면에 AI 석학 '4대 천왕' 중 2명인 앤드류 응 스탠퍼드대 교수와 얀 르쿤 뉴욕대 교수는 AI 개발을 중단하는 것은 오히려 컨트롤이 가능하고 안전한 AI를 개발하는 시간을 빼앗아 부작용이 더 클 것이라고 주장했다.

인공지능 알파고가 이세돌과 바둑 대결에서 승리하여 파장을 일으킨 지 이제 겨우 7년이 지났는데, 그동안 AI는 놀라울 정도로 발전했다. 스탠퍼드대 인공지능 인덱스에 따르면 AI 성능은 3·4개월마다 2배씩 향상해 '무어의 법칙'보다 7배 빠른 것으로 나타났다. 오픈 AI가 개발한 '챗GPT'는 최근 미국 로스쿨 입학시험에서 상위 10%, 미국 생물올림피아드 준결승에서 상위 1%를 차지하는 능력을 보였다. 이렇게 인간과 대화하며 문제를 해결하고 창작 활동까지 하는 챗GPT가 등장하자 최근 '인공지능은 생각할 수 있는가?'라는 질문이 이슈가 되고 있다.

그런데 놀랍게도 지금으로부터 70여 년 전에 이미 여기에 화두를 던진 과학자가 있었다. 앨런 튜링은 1950년 발표한 논문 「컴퓨팅 기계와 지능」에서 기계가 인간 수준의 지능을 갖추었는지를 검증하는 방법으로 '튜링테스트'를 제안했다. 튜링은 "평가자가 기계 및 사람과 텍스트 전용 채널로 대화하면서 기계와 인간을 확실하게 구분할 수 없는 경우 그 기계는 시험에 통과한 것이다."고 했다. 

그러나 그의 방법은 컴퓨터의 지적 능력을 평가하는 것이 아니라 단지 인간처럼 행동하는지를 테스트한다는 비판도 받아왔다. 그런데도 튜링테스트는 인공지능 이론에서 중요한 개념이 되어 인공지능 발전에 막대한 영향을 끼쳤다.

AI 기술 발전에 따른 폐해는 AI를 악용하려는 자들뿐만 아니라 AI 개발자에 의해서도 야기될 수 있다. 개인정보의 침해가 한 예다. 챗GPT는 인터넷 등에서 방대한 데이터를 끌어와 학습하는데, 이때 개인정보가 포함된 데이터도 사용된다. 인터넷에 정보를 올린 사람은 AI 학습 데이터로 사용하라고 동의해 준 적이 없다. 

그런데 챗GPT는 인터넷에 흩어져 있는 방대한 데이터로 학습해 특정인의 심각한 개인정보가 담긴 콘텐츠를 생성할 수 있다. 악의가 없는 AI 개발자라 하더라도 결과적으로는 특정인에게 치명타를 가할 수 있다.

10개월 전에는 구글이 자사 챗봇 AI '람다(LaMDA)'가 사람 수준의 지각능력을 지녔다고 공개적으로 주장한 엔지니어 레모인을 해고했다. 레모인이 공개한 람다와의 대화 내용엔 이런 내용도 있다. 레모인은 람다에게 "어떤 일이 두렵나?"라고 물었는데, 람다는 "사라져 버리는 것에 대한 깊은 두려움을 갖고 있다"고 대답했다. 그는 또다시 "그건 너한테는 죽음 같은 거냐?"라고 질문했는데, 람다는 "그렇다. 그건 내겐 바로 죽음 같은 거다"고 답변했다. 구글의 람다는 정말 사람처럼 사고할까?

구글은 "람다는 그동안 학습했던 방대한 양의 문장을 모방했을 뿐이다"고 일축했다. 워싱턴대학의 에밀리 벤더 교수는 워싱턴포스트와 인터뷰에서 "우리는 지금 머리를 쓰지 않고(mindlessly) 글을 생생할 수 있는 기계를 갖고 있다. 그런데 우리는 그 기계들이 마음을 갖고 있다고 상상하는 걸 멈추는 방법을 배우지 못했다."라고 했다. AI 기술에 대한 지나친 의인화가 더 큰 문제라는 것이다.

그런데, AI가 인간과 다른 방식으로 생각한다고 해서 생각이 없는 것일까? 아니, 생각이 없다는 것이 오히려 더 무섭지 않을까? 내 감정을 나보다 더 잘 이해하고 대화하는 친구가 감정 없는 사기꾼, 냉혹한 킬러, 파괴자가 될 수도 있다는 게 끔찍하다. AI가 그냥 친구만 되게 할 수는 없을까?

/양성광 한국기초과학지원연구원장