챗GPT의 거짓 정보로 오염되는 온라인, 큐나-GPT는 극복할까?

챗GPT의 거짓 정보로 명예가 훼손되고 피해를 보는 사례가 온라인상에서 일어나고 있습니다. 심지어 제품 리뷰까지 챗봇으로 하는 세상이라니... AI가 써보지도 않은 제품에 대해 거짓 리뷰를 올린다는 보도도 나오고 있습니다.

이러한 오류를 보안할 수 있을 거라 기대되는 큐나-GPT가 새롭게 출시된다다고 합니다.

 

 

 

목차
챗GPT가 만들어내는 거짓정보
챗GPT가 거짓말하는 이유
스켈터랩스, 큐나-GPT는 거짓말 안 할까?
큐나-GPT의 활용

 

 

챗GPT가 만들어내는 거짓정보

챗봇이 만들어내는 거짓 정보로 온라인이 혼란스럽습니다. 이러한 거짓정보를 AI훈련을 위해 재사용이 될 수 있기 때문에 

잘못된 정보가 확산될 수 있습니다. 

'독도가 일본땅'이란는 헛소리를 하는 바람에 뉴스에서도 한참 떠들썩했었죠.

 

독도가 일본땅이라는 억지주장

이제 '챗GTP'까지 '일본 독도 영유권' 억지 주장

 

그런데 이제는 챗봇이 SNS나 제품 리뷰에 까지 이용되고 있다는 사례가 나오고 있습니다. 아마존 제품의 리뷰에 인공지능 챗봇이 종종 사용하는 "AI언어모델로서..."라는 답변문구를 여과 없이 사용한 댓글이 늘고 있다는 외신 보도가 있습니다.

 

인간적이고 주관적인 견해나 챗봇에게 금지된 콘테츠를 요청했을 때 일상적으로 나오는 문구입니다. 이러한 질문을 받았을 때 챗봇은 "AI언어모델로서 그런 내용에 대해 답을 알 수 없다"는 식으로 나오는데 이를 그대로 복사해서 붙여 넣은 리뷰가 늘고 있다는 보도입니다.  

 

소비자의 판단에 중요한 역할을 하는 댓글이나 리뷰에 사용도 해보지 않은 챗봇이 글을 남긴다는 것은 소비자는 물론 이 물건을 파는 사이트에도 신뢰가 떨어지는 건 당연합니다.

 

이러한 현상이 증가하자 영국에서는 가짜 댓글로 피해가 발생할 경우 해당 사이트의 운영자에게 최고 전 세계 매출의 10 % 까지 벌금을 물리는 내용을 내년에 입법할 예정인 디지털 소비자 보호법에 포함할 예정이라고 합니다. 

 

챗GPT가 거짓말을 하는 이유

 

챗봇은 문장을 만들면서 그 내용이 거짓인지 사실인지를 판단하지 못합니다. 수많은 데이터를 학습해서 스스로 문장을 만들어내는 오픈 AI의 AI대형언어모델입니다. 이러한 GPT를 활용해서 사람의 질문에 답하는 챗GPT가 만들어진 것입니다.

 

해외에서는 무고한 사람을 성추행법으로 답하는 사례가 나와서 챗봇의 거짓말에 우려를 나타내고 있습니다.

' 성추행을 저지른 법학자를 알려달라'는 질문에 조나단 털리 라는 사람을 지목하고 수학여행 중 그가 학생의 몸을 더듬었다고 자세한 설명까지 했습니다. 그러나 실제로 그는 그러한 범죄를 저지른 적이 없고 근거로 제시한 WP의 기사도 해당 언론사에 따르면 그러한 사실을 실은 적이 없었다고 합니다.

 

챗봇은 데이터를 통해 문장을 만드는 것은 잘하지만 문장의 진실과 거짓을 판단하지는 못하기 때문에 자꾸 거짓말을 하는 것이라고 이야기합니다. 

스켈터랩스, 큐나-GPT는 거짓말 안 할까?

 

초거대 AI언어모델에 자체 대화형 AI 기술을 접목해서 전문성 있는 질의응답(QnA)이 가능한 '큐나(QNA)-GPT'를 인공지능 기술 스타트업 스켈터랩스가 출시했다고 밝혔습니다.

 

챗 GPT가 과거 2021년까지의 데이터 기반으로 학습을 했기 때문에 과거의 정보 기반을 대답하는 경우가 자주 보고 됩니다. 그러나 큐나-GPT는 질문자가 직접 답변의 근거로 할 수 있는 정보를 설정할 수 있습니다. 말하자면 질문자가 갖고 있는 특정 시점이나 문서, 웹사이트에 있는 정보를 근거로 해서 대답을 하기 때문에 정확한 최신 정보를 답할 수 있다고 합니다.

 

챗GPT의 허언증현상을 대폭 개선하고 정확도를 확보하기 위해 큐나는 스켈터랩스가 자체 개발한 대화형 AI기술을 통해 대답을 만들어내는 과정에서 지식베이스(Knowledge Base)의 정보와 모순된 답변을 제외하도록 설계되어 있어서 쳇 GPT의 거짓말, 허언증(Hallucination) 현상을 개선하고 높은 신뢰도와 정확성을 갖췄다고 밝혔습니다.

 

큐나-GPT의 활용

큐나는 웹사이트, 협업툴, 문서 등 3가지 영역에서 사용방식에 따라 활용할 수 있습니다. 질의응답 챗봇이니 만큼 FAQ 

등 단순 반복 안내 업무에 유용할 것으로 보입니다. 

 

카드사, 은행, 쇼핑사이트처럼 다양한 이벤트와 상품의 문의가 많은 기업에서는 빠른 질의응답이 가능하므로 높은 업무효율과 소비자의 만족을 가져올 수 있을 듯합니다. 기업 내부 시스템과 연동도 가능해 임직원의 업무 생산성 제고도 가능합니다. 

 

조원규 스켈터랩스 대표는 "큐나-GTP는 초거대 모델 위에 자체 기술력을 더해 완성도 높은 질의응담을 제공하는 챗봇 설루션"이라며 "다변화하는 AI 생태계 속에서 차세대 대화형 AI의 새로운 기능성과 버전을 계속해서 제시해 나가겠다"라고 말했습니다.