대형 언어 모델의 세계로 - ChatGPT의 원리와 활용 (15) 똑똑한 AI의 약점

 

대형 언어 모델의 세계로 - ChatGPT의 원리와 활용에 대한
개요와 전체 목차 및 저자 소개는 아래의 이전 글에서 보실 수 있습니다.

대형 언어 모델의 세계로 - ChatGPT의 원리와 활용 개요

 

 

AI는 복잡한 문제를 잘 풀지만, 가끔 예상 밖의 실수를 한다

인공지능(AI)은 정말 스마트해요. 올림피아드 수준의 복잡한 수학 문제를 해결하고, 박사 과정 수준의 물리, 화학, 생물학 질문에도 놀라운 답변을 내놓죠. 하지만 가끔은 너무나 단순한 문제에서 예상 밖의 답을 내놓기도 해요.

예를 들어, 숫자 비교 문제에서 AI가 “9.11이 9.9보다 크다”라고 답하는 경우가 있어요. 어떤 경우에는 스스로 답을 수정하지만, 또 어떤 경우에는 틀린 답을 고집하기도 해요. 같은 질문을 여러 번 하면 정답을 내놓기도 하고, 그렇지 않을 때도 있죠.

이것은 AI가 숫자를 단순한 계산 방식으로만 이해하는 것이 아니라, 광범위한 데이터 속에서 패턴을 학습하고 응용하는 과정에서 발생하는 자연스러운 현상이기도 해요.

AI가 논리적인 부분에서는 확실히 똑똑하다고 할 수 있어요. 하지만 우리의 현실에서는 모순이 존재하고 항상 논리적인 것이 정답이 아니기 때문에 AI가 잘 하지 못하는 것이 꼭 잘못되었다고 할 수는 없을 거에요.
우리는 이런 패턴화 되지 않은 많은 것들을 이해하고 인정하는 것이 필요하다고 생각해요.

 

신경망이 숫자를 성경 구절로 착각한 사례

이 현상을 연구한 팀의 분석에 따르면, AI의 신경망 내부에서 특정 뉴런들이 활성화되면서 숫자가 성경 구절의 번호처럼 인식되는 경우가 있음을 발견했어요.

예를 들어, 성경에서는 9:11이 99:9보다 뒤에 오는 경우가 많아요. 이런 패턴을 학습한 AI가 숫자 비교를 할 때도 이러한 기억을 활용하다 보니, 논리적으로는 맞지 않지만 특정한 문맥에서는 자연스러운 답을 내놓는 거죠.

즉, AI는 단순히 수학적 계산만을 수행하는 것이 아니라, 훈련 과정에서 접한 수많은 텍스트 데이터의 패턴도 함께 학습해요. 이 과정에서 특정한 문맥이 강하게 연관되면, 우리가 기대한 방식과 다르게 답을 내놓을 수도 있어요.

 

AI는 스마트하지만, 특정한 약점도 있다

이러한 사례들은 AI가 매우 똑똑하면서도 완벽하지 않다는 점을 보여줘요. AI는 엄청난 데이터와 복잡한 연산을 기반으로 놀라운 답변을 생성하지만, 때때로 예상치 못한 방식으로 정보를 해석할 수도 있어요.

따라서 AI의 답변을 활용할 때는, "대부분 정확하지만 때때로 특이한 결과를 내놓을 수 있다"는 점을 고려하는 것이 중요해요. AI는 강력한 도구지만, 맹목적으로 신뢰하기보다는 언제나 한 번쯤 점검하고 활용하는 것이 더 효과적이에요.

 

AI는 최강의 도구지만, 인간의 판단이 함께해야 한다

AI는 강력하고 스마트한 기술이에요. 복잡한 문제를 빠르게 해결하고, 다양한 분야에서 유용하게 활용될 수 있어요. 하지만 AI가 완전무결한 존재는 아니며, 특정한 문맥에서는 다소 엉뚱한 답을 내놓을 수도 있어요.

중요한 것은, AI를 활용할 때 이러한 특성을 이해하고 적절하게 보완하는 것이에요. AI는 우리의 일을 도와주는 훌륭한 조력자지만, 최종적인 판단은 인간이 하는 것이 가장 바람직하죠. AI의 강점을 최대한 활용하면서도, 항상 한 걸음 더 점검하는 태도가 필요해요.

AI는 인간을 잘 도와주는 좋은 기술이죠. 현실 세계에서 완벽한 존재가 없듯이 AI도 완벽하기를 기대는 하고 있지만 실제로 그런것이 실체화되는 것은 어려워요. 사람이 잘 하는 분야와 시너지가 나올때 더욱 더 빛이 나게 될거에요.