EBN [AI로 여는 미래혁신] 포럼, ‘생성형 AI의 본질:능력과 한계’ 주제 발표
“인간 생존·번영에 활용 가능해야”…AI 활용법 해법 제시
“현 AI기술 능력·한계 알고 사용해야”

김진형 KAIST 명예교수가 24일 인터넷 경제신문 EBN이 주최하고 과학기술정보통신부·한국인공지능산업협회가 후원하는 [AI로 여는 미래혁신] 포럼에서 발표하고 있다. [제공=EBN]

그야말로 인공지능(AI)의 시대다. 산업·경제·금융·의료·교육 등 우리 삶에 맞닿은 모든 분야에 AI도입이 가속화하고 있다. 변화가 잦은 경영 환경 속 기업들도 처절한 혁신 없이는 생존을 보장할 수 없는 시대가 됐다. 이에 반도체·가전·이동통신·제조·IT(정보기술)서비스 등 전(全) 산업계가 ‘퀀텀점프’를 이뤄내려면 향후 AI 수요에 대한 전략과 선제적 대응이 중요하다는 평가도 나온다. 급변하는 소비자 니즈와 매순간 호흡해야 하는 기업 입장에선 AI 비즈니스 트렌드를 놓친다면 기업 간 경쟁력에서 도태될 가능성이 큰 것이 현실이다. EBN은 [AI로 여는 미래혁신]을 주제로 웨비나(온라인) 방식의 포럼을 갖고 분야별 [AI 혁신포럼] 시리즈를 통해 AI의 현주소와 미래를 조망, 우리 기업들이 나아갈 방향을 제시하고자 한다. <편집자주>

“인공지능(AI)를 사용할 때 AI가 어떠한 능력을 가지고 있고 또 검증이 가능한가를 정확하게 짚어 문제가 없는지 확인해야 한다. AI 환경이 급변하기에 이를 쫓아가려면 이에 대한 핵심 능력을 알고 한계를 정확히 파악하는 것이 중요하다.”

김진형 KAIST 명예교수는 24일 인터넷 경제신문 EBN이 주최하고 과학기술정보통신부·한국인공지능산업협회가 후원하는 [AI로 여는 미래혁신] 포럼에서 이같이 말하며 AI 활용법에 대한 해법을 제시했다.

김 명예교수는 제 17대 인천재능대학교 총장, 중앙대학교 소프트웨어대학 석좌교수, 인공지능연구원(AIRI) 원장, 소프트웨어정책연구소(SPRi) 초대 소장, KAIST 인공지능연구센터 소장 등을 역임한 바 있다.

김 명예교수는 서울 송파구 소재 로그인미디어 스튜디오에서 열린 이번 포럼에서 ‘생성형 AI의 본질:능력과 한계’를 주제 발표하며 생성형 AI 시대 도래의 배경과 AI 트렌드를 조망하고, 우리가 준비해야 할 점을 포함해 인간의 생존·번영에 도움이 되는 AI 활용법을 언급했다.

실제 챗GPT를 비롯한 생성형 AI는 다양한 산업 분야의 기본 문법을 바꿔놓으면서 새로운 혁신의 밑거름이 되고 있다.

김 명예교수에 따르면 AI 서비스는 기반모델을 이용해 구축된다. 기반 모델의 능력은 하위 작업에 큰 영향을 주며 생태계를 형성, 사용자들에게 상당한 영향력을 행사할 수 있다는 게 김 교수 설명이다.

특히 그는 자체적인 거대 언어모델(LLM)의 능력과 한계도 지적했다. AI가 인간과 유사한 포괄적인 지능으로 통합될 수 있을지에 대해 의견이 분분한 가운데, 최근 IT업계에서 제기되는 LLM의 한계론도 언급한 것이다.

김 명예교수는 “LLM의 등장으로 인해 언어 이해, 텍스트 생성 같은 다양한 언어처리 작업을 전례 없는 수준으로 수행이 가능하게 됐다”며 “문장 구성에서 다음 단어가 무엇일지 추정하는 능력이나, 암묵적 지식을 저장하고 검색하는 능력, 가중치 (Weight)로 통계적 패턴을 표현하고 구조화되지 않은 텍스트 데이터로부터 학습이 가능하다”고 전했다.

이어 “반면에 잘못된 정보를 제공하는 사례도 있다”며 “모든 사실정보를 데이터베이스에 기억하는 것이 아니고 학습해 일반화한 모델로부터 사례를 생성하기 때문에 제한적인 추론 기능을 들 수 있다”고 설명했다.

현재 LLM의 경우 구조 상 의도하지 않은 답변 생성에 따른 리스크를 안고 있고, 이는 LLM의 신뢰성 문제로 직결된다. 이에 LLM의 신뢰성을 공정하게 평가할 수 있는 기준도 필요하다는 게 김 교수의 지적이다.

파라미터와 입력 한계에 대해서도 언급했다. 그는 이와 관련 “LLM 모델은 대형화 추세에 놓여 있다”며 “파라미터는 모델의 입력과 출력 사이의 관계를 결정하는 값으로서 파라미터의 수가 많다는 것은 모델이 입력과 출력 간의 복잡한 관계도 표현할 수 있다. 파라미터가 많으면 창발현상도 강화된다”고 말했다.

AI의 현재 한계와 문제점도 꼬집었다. 김 명예교수는 “AI는 세상을 이해하지 못하고, 상식적 추론을 못한다. 또 편견과 차별을 갖고 있으며 의사결정 과정을 설명하지 못하는 문제가 있다”며 “게다가 너무나도 쉽게 가짜를 만들어낸다는 점도 부정적 영향이라고 할 수 있다”고 강조했다.

그러면서 “AI는 ‘양날의 칼’이라는 치명적 위협 요소를 지니고 있다”며 “AI의 악의적 사용과 관리·통제의 한계와 과도한 AI경쟁이 결과적으로 인류 사회에 악영향을 줄 수 있다고 본다”고 설명했다.

김 명예교수에 의하면 AI 산업의 목표는 단순히 명령된 과업을 효과적으로 수행하는 데 그치지 않는다. 인류가 목표로 하는 AI의 종착역은 인간 수준의 범용 지식을 의미하는 ‘AGI(Artificial General Intelligence)’다. 이는 AI가 인간 수준의 단계로 올라서 감정을 가지는 것은 물론 자의식에 의한 목표 설정이 가능한 수준에 이르는 것을 일컫는다.

마지막으로 “이익, 효율성 추구 등 AI 산업이 목표로 하는 방향에서 가장 중요한 목적지는 인간의 생존과 번영에 활용될 수 있는 AGI임을 간과해서는 안 된다”며 “현재 AI기술의 능력과 한계를 알고 사용해야 하며 결정을 사후 검증할 수 있거나 위험 요소가 적을 때에만 사용해야 한다”고 덧붙였다.

©(주) EBN 무단전재 및 재배포 금지