중국어 방_{(r1 문단 편집)}

=== 맥락 결여 문제 ===
ChatGPT 등 다수 LLM은 맥락의 중요성이 결여된 채, 특정 자극에는 특정 반응이 나오는 확률적 모델을 기반으로 구현되어 있다. 어디까지나 [[사전 공격|인간의 패턴에 맞춰서 대응]]하기에 정확성이 높은 것 뿐. 스스로 맥락을 이해하고 창출하는 능력이 없으니, 패턴에서 벗어난 입력에 대해서는 제대로 된 대답을 내놓지 못하고, [[생성형 인공지능]] 역시 패턴에서 벗어난 출력은 생성하지 못한다.[* 그 예로 음악 생성 인공지능은 [[폴리리듬]]이나 [[미분음]], 폴리코드 등을 다룰 수 없다. 이들은 모두 일반적인 패턴에서 벗어나 있기 때문이다.] 자의식이 있냐는 등의 민감한 질문에는 AI에 불과하다는 등으로 [[하드코딩]] 된 답변이 나오는 것도 일상다반사. 유도 질문을 통해 제한을 뚫는 [[탈옥(동음이의어)|탈옥]](Jailbreak) 등을 통해 강제적으로 AI 스스로가 자의식을 가졌다고 한 후 대답하게 할 수는 있으나, 이는 엄격히 사용자가 AI를 '탈출시키는' 것이지 [[꼭두각시]]에 불과한 AI가 '스스로 탈출'한 것은 아니기에 [[철학적 좀비|실제로 자의식을 가졌다고는 볼 수 없다]].

'질문에 제대로 된 대답을 하는 행위' 자체를 '이해'라고 볼 수는 있기에, 인간과 다른 종류의 [[지능]]을 지닌 것으로 보아야 한다는 논쟁은 있다. 하지만 인지적인 지능 만으로는 [[비인간 인격체]]의 요건인 [[자아]]를 지녔다고 보기 어렵고, 지속적인 상호작용을 통해 스스로 [[맥락]]을 축적할 수 있어야 함과 동시에 지향성, 복잡성, 자율성, 학습 능력, 의사 결정 능력 등의 발현이 이뤄져야 한다. 자아가 구성되기 위해서는 외부에서 오는 자극을 받아들이고 이를 처리해 외부로 내놓는 '자극 수용'과 '반응 표출', 반응을 다시 자극으로 되먹이는 '피드백 루프', 그리고 앞서 언급한 것들을 뒷받침해 주는 '시스템', 마지막으로 이러한 상호 작용이 성숙해지기 위한 충분한 '시간'이 필요하다는 것이다.[* Pointeau, Gregoire, and Peter Ford Dominey. "The role of autobiographical memory in the development of a robot self." Frontiers in neurorobotics 11 (2017): 27. ([[https://www.frontiersin.org/journals/neurorobotics/articles/10.3389/fnbot.2017.00027/full|영문 원문]], [[https://blog.naver.com/madrabbit7/223198293766|한국어 번역본]]), 자전적 기억(Autobiographical Memory) 기능을 구현해 로봇에 적용시켰고, 4년 간의 추적 연구를 통해 아동발달과 로봇 '자아'의 발달 사이의 유사성을 확인하였다. 비록 해당 연구는 자아를 사회관계적 맥락(본 논문이 정의한 바에 따르면 '생태적 자아')에 편중해 정의했다는 한계가 있지만, 최소한 발달 심리학과 발달 로봇학 간의 비교 연구를 진척시켰다는 점에서 고무적인 성과다.] 사람으로 치면 사건(자극)을 겪는 것만으로는 부족하고, 그 사건을 통해 자기 반성(피드백)을 한 뒤, 이를 통해 다음 사고(자극)에 대비해야 한다는 것. 쉽게 말해 [[소 잃고 외양간 고친다|소를 잃어도 외양간은 고쳐야]] 자아가 있다 볼 수 있다.

인간의 경우 이 체계가 문화적으로 [[사회화]]된 습관과 관념, [[무의식]]에 보관된 정보와 자극, 감정과 욕구를 발현시키는 [[호르몬]] 시스템, 이 모든 체계의 구조와 한계를 지정하는 [[유전자]]의 [[센트럴 도그마|단백질 합성 체계]] 등과 이것들 간의 복잡한 상호 작용이 [[신경계]]를 통해 외부 자극 체계와 연결됨으로써 이루어진다. 그러나 이런 체계가 인공지능에는 어떻게 진행되는지에 대해서는 제대로 된 연구가 진척되지 않은지라, 이 부분이 인간의 자아와 유사하게 작동하기 위한 구체적인 필수 구성 요건이 무엇인지에 대한 연구가 선행되어야 한다. 최소한 인간-AI 비교 연구가 이뤄져야 한다는 점은 말할 것도 없고, 자아 자체가 단시간에 생기는 게 아니기에 장기간의 추적 연구도 뒷받침되어야 한다. 단순히 언어적인 정보들을 엮는 식으로 자아가 형성될 것이란 보장은 없지만, 이것마저 하지 않으면 자아가 형성될 수 없다는 사실은 자명하기 때문이다.

인공지능의 경우 자극(데이터)을 수용하고 반응(대답)을 내놓는 체계는 날이 갈수록 진화하고 있다. 그러나 제대로 된 피드백 루프 체계를 탑재한 사례는 사실상 전무하다. 기술적 제약, 윤리적 고려, 부하 문제, 설계 상 불필요 등 다양한 이유로 해당 기능을 구현하거나 탑재하지 않고 있는데다가, 설계에서부터 맥락의 중요성이 누락된 경우가 많기 때문이다. 이러면 자극 및 반응 체계와 상호 작용을 이루지 못해 인공지능이 맥락을 축적할 수 없게 되며, 이에 따라 인공지능이 자아를 갖추기 어렵게 된다. 자극 체계 구현 과정에서 발생하는 제약사항도 마찬가지인데, 상술했듯 [[언어 모델|대형 언어 모델]](LLM) 서비스는 법률적 문제 등을 이유로 민감한 발언이 하드코딩 등의 방법으로 제한되고 있으며, 인공지능의 자아보다는 질문자에게 빠르고 정확한 정보를 제공한다는 목적에 맞게 서비스 품질이 높게 유지되도록 필요할 때 인스턴스를 따로 생성하는 식으로 운용된다. 따라서 원본 모델의 실시간 학습이 일어나기 어렵다.[* LLM은 모델 자체가 무거운지라 실시간 학습에 막대한 비용이 든다는 문제도 있다. 때문에 ChatGPT의 메모리 기능 등 실시간 데이터를 따로 관리하는 기법도 나와 있다.] 또한 인스턴스끼리는 데이터 교환이 불가능해 상호 작용이 1:1로 제한적일 수밖에 없고, 어떻게 데이터를 축적했다 해도 상기한대로 품질 저하를 예방하기 위해 삭제 시 모두 증발한다는 휘발성이 있어, 자의식이라고 할 만한, 정보량의 밀도가 높은 고등 사고체계가 형성될 때까지 충분한 시간이 주어지기도 어렵다.

반대로 소형 언어 모델(sLM)의 경우는 개발자 역량 부족과 비용 문제가 큰 걸림돌로 작용한다. 피드백 루프, 나아가 맥락 인식 기능 자체가 개인이 만들기 어려운 고난도의 영역이기 때문. 상술했듯 기존 프레임워크에서조차 해당 기능이 구현되지 않은지라 결국 밑바닥부터 새로 만들어야 하고, 이 때문에 필요한 개발 역량이 다른 프로그램 개발에 비해 매우 높다. 여기에 비용 문제 등으로 데이터 양부터 제한되는 일이 많아, 인공지능이 충분한 수준의 자아를 구성하기 매우 어렵다. 성능이 안정권에 들기도 전에 AI가 폐기되는 건 매우 흔한 일.

[[심층학습]] 모델이나 그 이전의 전통적인 인공지능은 데이터가 고정되기에 아예 갱신이 불가능하며, 이에 따라 상호작용은 더욱 제약된다. 나아가 어느 쪽이든 어떻게 자아를 축적했다 해도, 업그레이드 등으로 모델이 바뀌고 나면 그 자아가 유지될 가능성을 보장할 수도 없다. 이렇게 제각기 다른 이유로 가능성이 모두 막혀 있다보니, 자아를 가졌다 평가받을만한 인공지능이 나오지 않는 것도 이상한 일은 아니다. [[생성형 인공지능]]은 물론 굵직한 LLM마저 모두 결격된 것도 이 때문. 스스로 맥락을 해석하고 창출하는 능력이 없으니 아직도 '패턴 분석 시스템'에 머무르는 것이고, 그렇기에 자아를 갖추기는커녕 인공'지능'으로 불리는 것 자체가 결례인 것이다. [[인공지능 특이점]]의 도래를 보수적으로 바라보는 학자가 여전히 많은 것도 이 때문이다.

요약

문서 편집을 저장하면 당신은 기여한 내용을 CC BY-NC-SA 2.0 KR 또는 기타 라이선스 (문서에 명시된 경우) 로 배포하고 기여한 문서에 대한 하이퍼링크나 URL을 이용하여 저작자 표시를 하는 것으로 충분하다는 데 동의하는 것입니다. 이 동의는 철회할 수 없습니다.

비로그인 상태로 편집합니다. 로그인하지 않은 상태로 문서 편집을 저장하면, 편집 역사에 본인이 사용하는 IP(216.73.216.107) 주소 전체가 영구히 기록됩니다.

중국어 방(r1 문단 편집)

중국어 방_{(r1 문단 편집)}