Key Points
- 챗봇 '챗GPT'… 질문-답 대본을 선행 학습한 '다음 문장 맞추기 기계'
- 디지털 시대의 문명의 이기 '챗GPT' 열풍 속 제기되는 'AI' 윤리 논란
- 교내 부정행위 및 표절, 저작권 논란, 악성 코드 제작 등 악용 소지 커
- '챗GPT의 거짓 약속'… 세계적 석학 촘스키, NYT기고문에서 쓴 소리
초거대 인공지능 대화형 '챗GPT(ChatGPT)'가 사회 전반을 강타하며 돌풍을 일으키고 있습니다.
일각에서는 "구글의 시대를 '챗GPT'가 끝냈다"라는 이야기가 나올 정도로 그 영향력이 날이 갈수록 커지고 있는데요.
디지털 시대의 문명의 이기 챗GPT'란 어떤 것이며 여기에 따르는 윤리 보안 대처 과제에 대해 알아봅니다. 컬처 IN 유화정 프로듀서 함께 합니다.
주양중 PD(이하 진행자): 인공 지능 AI 서비스는 스트리밍 서비스, 쇼핑몰, 내비게이션 등 일상 곳곳에서 마주할 수 있는데요. 그러면서 이 분야의 비약적 발전은 급기야 사람처럼 대화가 가능한 챗봇 '챗GPT'를 등장시켰어요.
유화정 PD: 그렇습니다. 작년 11월 공개된 챗GPT는 테슬라 최고경영자인 일론 머스크가 투자한 인공지능 연구소 '오픈 AI'의 새로운 언어모델로 알려졌죠.
챗GPT는 키워드를 제공하면 방대한 정보를 생성하는 구글과 달리 사용자가 필요로 하는 정보만을 제공해 효율 면에서도 압도적인 성능을 보여줍니다. 영국 일간지 인디펜던트는 "구글은 끝났다(Google is done)"는 기사를 대서 특필하기도 했습니다.
챗GPT는 기본적인 AI의 원리나 구조, 작동 방법을 알지 못해도 대화창을 통해 필요한 질문을 하고 답변을 얻을 수 있어 마치 바로 옆에 전문가나 도우미를 두고 대화를 나누는 것과 비슷한 효과를 얻는다는 점이 기존 AI과 구분되는 포인트입니다.
진행자: 대화를 뜻하는 Chat과 GPT의 결합어로 GPT(Generative Pre-trained Transformer)는 '생성적 사전학습 변환기'란 의미인데요. 실제 어떤 학습 과정을 거쳐 탄생 됐나요?
유화정 PD: 챗GPT는 크게 두 번의 학습을 통해 만들어집니다. 먼저 챗GPT의 본체 격인 GPT에 지식을 학습시키고 그다음, 질문에 답을 하는 행동을 하도록 학습시킵니다.
이 과정은 다음에 이어지는 낱말 맞추기 연습을 무한 반복 시킨다고 보시면 되는데요. 예를 들어 "나는 밥을 …"라는 문장이 있을 때, 마지막 빈칸에 들어올 단어가 무엇인지 맞추도록 하는 겁니다.
무한 반복의 지식 학습이 끝나면 완성 단계인 사용자와 대화를 할 수 있는 고도의 훈련을 거쳐 챗(chat) GPT로 탄생합니다.
진행자: 고도의 훈련을 거친다지만 어떻게 사용자의 묻는 말에 원하는 맞춤형 답변을 줄 수 있는지 의문이 듭니다.
유화정 PD: 챗GPT 제작사인 오픈 AI는 40명의 계약직 인력을 고용해 GPT를 학습시킬 '질문-답' 형식의 텍스트 1만 3000개를 사람이 직접 작성하도록 했습니다.
어떻게 이런 질문에도 답을 할 수 있지? 깜짝 놀랄만한 질문 응답의 대화의 기본 틀은 거의 대부분 채용된 직원들이 직접 직접 손으로 써서 틀을 마련해 놓은 것들입니다.
또 질문이 꼬리에 꼬리를 무는 경우에 대비해 직원들은 '질문-답-질문-답-질문-답' 형식의 스크립트도 작성했습니다. 그 원본이 모두 챗GPT에 학습돼 있는 것이죠.
진행자: 단순 대화를 넘어 논문 작성, 연설문, 정책 보고서도 짧은 몇 초 사이에 문장의 도입부는 물론 형식에 맞게 글이 완벽하게 정리된 상태로 답변이 나오는데 정말 놀라지 않을 수 없는데요.
유화정 PD: 챗GPT는 인터넷 문서와 책을 비롯한 자료를 3천억 개 이상 학습했다고 알려졌습니다.
위키피디아를 비롯 각종 책과 자료 등 45 테라바이트에 달하는 양의 문서를 문제로 내줬다고 하는데요. 참고로 1 테라바이트(TB)는 1,000기가바이트(GB)를 뜻하는 정보의 단위입니다.
제작사 오픈 AI에 따르면 챗GPT의 학습에 필요한 전기료 등 비용을 충당하는 데만 수백만 달러가 들어갔습니다.
PRODUCTION - 19 January 2023, Bavaria, Kempten: ILLUSTRATION - The homepage of ChatGPT. Artificial intelligence that writes greeting cards, poems or non-fiction texts - and sounds amazingly human. With the chatbot, you can not only talk on the Internet. With the help of artificial intelligence (AI), it can also write essays, poems, letters and all kinds of other texts on command - and impresses with its abilities. This gives teachers at universities and schools food for thought. (to dpa "AI takes over homework - schools and universities must rethink") Photo: Karl-Josef Hildenbrand/dpa (Photo by Karl-Josef Hildenbrand/picture alliance via Getty Images) Credit: picture alliance/dpa/picture alliance via Getty I
유화정 PD: 최근 미국에서는 우크라이나 전쟁에서 쓴 비용이 아프간 전쟁보다 많았다는 소문이 퍼졌습니다. 모 방송 기자가 미국 연방의회 보고 자료들을 하나하나 훑어보고 비교한 결과, 미국이 아프간 전쟁에 쓴 돈은 1조 달러에 가까웠고, 우크라이나 전쟁에 약 1천억 달러를 썼습니다. 즉 소문은 사실이 아니었는데요. 이렇게 알아보는 데 반나절이 걸렸습니다.
그런데 챗GPT에 물어봤더니 정확한 출처까지는 보여주지 않았지만 여러 이유로 사실이 아니라고 판정을 내렸고, 기사 형태로 써달라고 하니까 불과 20초 만에 팩트체크 기사가 뚝딱 나왔습니다.
진행자: 콜롬비아에서는 판결문도 썼더라는 외신도 나왔는데, 획기적인 인공지능에 대한 기대가 큰 만큼 이를 나쁜 의도로 이용했을 경우에 대한 우려도 높아지고 있죠?
유화정 PD: 사회 규범의 기준이 되는 여러 공적인 텍스트가 챗GPT로 만들어지고 있다는 사실은 놀랍고, 결코 간과해서는 안될 부분이라는 목소리가 높습니다.
달리 말해 인간의 악한 의도가 개입될 경우 여러 영역에서 악용 가능성도 커질 수 있는 건데요. 가짜 뉴스 가짜 정보를 만들어내는 데 악용을 할 수가 있고, 컴퓨터 바이러스를 만드는 데 또 악용 될 수 있습니다.
진행자: 같은 맥락에서 최근 뉴욕타임스가 러시아의 2016년 미국 대선 개입 의혹과 관련해 "러시아 정부는 당시 수백만 달러를 들여 해커 수백 명을 고용했지만, 챗GPT가 있었다면 비용이 거의 공짜였을 것"이라고 발언해 눈길을 끌었는데요.
유화정 PD: 챗GPT가 부적절한 콘텐츠를 생성할 수 있다는 경고 또한 제기되고 있습니다. 특히 챗GPT가 판단 능력이 적은 아이들에게 부적절한 콘테츠를 만들 수 있다는 우려의 목소리가 높습니다.
인공지능 학자 요수아 벤지오는 "AI 시스템은 인간이 만드는 도구이며, 이를 사용할 땐 항상 인간에게 어떤 결과를 가져다주는지를 생각해야 한다"고 강조했는데요.
챗GPT가 미치는 윤리 문제, 악용 가능성에 대해서는 챗GPT 개발사인 '오픈 AI'의 미라 무라티 책임자까지 규제가 필요하다고 주장했습니다.
ChatGPT website displayed on a phone screen and a binary code displayed on a screen are seen in this illustration photo taken in Krakow, Poland on January 10, 2023. (Photo by Jakub Porzycki/NurPhoto via Getty Images) Source: NurPhoto / NurPhoto via Getty Images
유화정 PD: 네. 아이러니하게도 챗GPT가 작성한 초안에는 'AI 기업이 알고리즘에 대한 정보를 전면 공개하고 정기적으로 위험성을 점검하는 등의 조치를 시행해야 한다는 점'을 요점으로 하고 있습니다.
즉 '인공지능 모델을 만든 회사는 의무적으로 정기적인 위험 평가를 수행해야 한다'는 것을 챗GPT 스스로 인정한 겁니다.
더불어 새롭고 강력한 기술이 등장하고 쉽게 접근할 수 있게 됨에 따라 대중의 안전, 개인정보 보호 및 지적재산권 보호를 위해 '개인정보 수집과 사용은 직접 허락을 얻어야 한다'는 조항도 첨부됐습니다.
진행자: 정보 보안 문제와 아울러 전 세계 교육현장은 챗GPT로 비상이 걸렸는데, 호주는 공립학교 내 인공지능 도구 사용을 전면 금지한 상태죠?
유화정 PD: 세계 교육현장은 그야말로 초 비상입니다. 특히 학생들이 챗GPT를 이용해 시험과 과제에서 유발될 부정행위와 표절 가능성을 크게 우려하고 있습니다.
호주 교육계는 웹사이트에 대한 접근을 차단하는 방화벽 설치 등과 같은 조치를 통해 이미 최소 5개 주 공립학교들에 챗GPT와 같은 인공지능 도구의 사용을 금지했습니다.
호주 내 대학들도 AI 도구 사용 근절을 위해 시험 형식을 변경할 계획인 것으로 전해졌습니다.
진행자: 반면 일각에서는 인공지능의 효율성을 강조하며 새로운 기회라는 주장도 첨예하게 대립되고 있죠?
유화정 PD: 미 펜실베이니아대학 와튼스쿨의 이선 몰릭 교수는 "우리는 전자계산기가 있는 세계에서 수학을 가르쳤다"며, "이제 교육자들에게 주어진 과제는 학생들에게 이 세상이 다시 어떻게 변했고 그 변화에 어떻게 적응할 수 있는지 가르치는 것"이라고 피력했습니다.
진행자: 세계적 석학 노엄 촘스키 MIT 명예교수가 최근 뉴욕타임스 기고문에서 챗GPT 열풍'에 대해 비판의 목소리를 내놔 화제가 되고 있는데 어떤 내용입니까?
유화정 PD: 노엄 촘스키 교수는 언어학과 인지 과학의 세계적인 석학으로 '현대 언어학의 아버지'로 묘사되곤 하는데요.
촘스키 교수는 이언 로버츠 케임브리지대 언어학 교수 등과 함께 뉴욕타임스에 실은 '챗GPT의 거짓 약속'이라는 제목의 기고문을 통해 '챗GPT 열풍'에 쓴소리를 냈습니다.
"현재 인공지능 AI는 원시적 인지 단계에 머물러있다.진짜 지능은 사실 같지 않더라도 통찰력 있는 것들을 생각하고 표현하는 능력과 윤리적 사고에서 나타난다"고 일갈했습니다.
그러면서 챗GPT가 내놓은 답변들을 거론해 도덕관념과 언어학적 능력이 없는 가짜 과학 시스템이라고 평가절하했습니다. 챗GPT가 마치 인간처럼 언어를 구사하고 생각하는 것처럼 보이지만 실상은 그렇지 않다는 겁니다.
진행자: 다양한 측면에서 혁신적 변화를 일으키고 있는 인공지능 챗봇 '챗GPT' 활용의 오남용에 대한 윤리적 논란 심층 짚어봤습니다.
READ MORE
“인공 지능 AI, 인권 위협 우려”…모라토리엄 제기
