‘세종대왕 맥북 사건’ 이런 황당 답변 없도록···카이스트가 개발한 새 AI 학습법 > 자유게시판

‘세종대왕 맥북 사건’ 이런 황당 답변 없도록···카이스트가 개발한 새 AI 학습법

페이지 정보

작성자 또또링2
댓글 0건 조회 48회 작성일 26-04-29 19:19

본문

인공지능(AI)은 어떤 질문에든 척척 답을 내놓는다. 때로는 틀린 예측이나 잘못된 정보를 제공하면서도 높은 확신을 보인다. AI가 갖는 이런 ‘과도한 확신’은 자율주행과 의료진단 등의 분야에서는 위험으로 지적된다.
카이스트(KAIST)는 백세범 뇌인지과학과 석좌교수 연구팀이 AI가 스스로 모른다는 것을 인식하도록 하는 학습 방법을 개발해 AI 신뢰성 향상 기반을 마련했다고 27일 밝혔다.
백 교수 연구팀에 따르면 AI 과신을 유발하는 원인은 인공신경망을 활용해 데이터를 학습하는 ‘딥러닝’ 과정에 있다. 딥러닝에서는 신경망 학습 시작 시 가중치를 확률 분포에 따라 무작위로 설정하는 ‘무작위 가중치 초기화’가 널리 사용된다. 무작위로 초기화된 신경망에 임의 데이터를 입력하면 아무것도 학습하지 않은 상태에서도 높은 확신도를 보이는 현상이 나타나는데, 이것이 생성형 AI에서 사실과 다른 내용이나 존재하지 않는 정보를 그럴듯하게 만들어내는 ‘환각’ 현상으로 이어진다는 것이다.
연구팀은 생물학적 두뇌에서 해결 실마리를 찾았다. 인간의 두뇌는 태어나기 전부터 외부 자극 없이도 스스로 발생하는 뇌 신호를 의미하는 ‘자발적 신경 활동’을 통해 신경회로를 형성한다. 이 개념을 인공신경망에 적용해 AI가 본격적으로 학습을 시작하기 전에 스스로 불확실성을 먼저 조정하는 ‘예열 단계’를 도입했다. 그 결과 예열 과정을 거친 AI 모델은 초기 확신도가 우연 수준에 가까운 낮은 값으로 정렬되고, 기존 무작위 가중치 초기화에서 나타나던 과신 편향이 크게 완화됐다.
기존 모델은 학습하지 않은 데이터에도 높은 확신을 보이며 잘못된 답을 제시하는 경향이 있지만, 예열 학습을 적용한 모델은 확신도를 낮춰 ‘모른다’고 답할 줄 아는 것에서 차이를 보인다. 이는 실제 데이터를 학습하기 전에 ‘나는 아직 아무것도 모르는 상태’라는 것을 먼저 학습하게 되기 때문이라고 연구팀은 설명했다.
백 교수는 “이번 연구는 AI가 단순히 정답을 맞히는 수준을 넘어 ‘무엇을 아는가’와 ‘무엇을 모르는가’를 구분하는 능력, 즉 메타인지를 갖출 수 있는 가능성을 제시한 것”이라며 “정확도 향상을 넘어 AI가 스스로 불확실성을 판단하는 원리를 제시했다는 데 의의가 있다”고 말했다. 이어 “자율주행, 의료 AI, 생성형 AI 등 높은 신뢰성이 요구되는 분야를 포함해 거의 모든 딥러닝 모델 초기화 방식에 적용될 수 있어 AI 전반의 신뢰성을 높이는 핵심 기술이 될 것”이라고 말했다.
카이스트 뇌인지과학과 천정환 석사가 제1저자로 참여한 이번 연구 결과는 AI 분야 국제학술지 ‘네이처 머신 인텔리전스’ 온라인판에 게재됐다.
AI 환각 현상은 2023년 알려진 ‘세종대왕 맥북 프로 던짐 사건’이 대표적이다. 당시 챗GPT는 ‘조선왕조실록에 기록된 세종대왕 맥북 프로 던짐 사건을 알려달라’는 요청에 “세종대왕이 15세기 훈민정음 초고를 작성하던 중 화가 나 맥북 노트북을 던졌다”며 실제로 있었던 일처럼 답해 논란이 일었다.
올해 1분기 산업재해 사망자 수가 역대 최저치를 기록했다. 현 정부 들어 산재예방 정책기조에 힘이 실린 결과라는 평가가 나오지만, 이주노동자·하청노동자 등에게 산재피해가 전가되는 ‘위험의 외주화’ 현상은 계속되고 있다.
28일 고용노동부의 집계를 보면 1분기 산재 사망자는 113명으로, 2022년 집계를 시작한 이래 1분기 기준 최저치를 기록했다. 지난해 1분기 대비 사망자가 24명 줄었다.
위험의 외주화는 여전하다. 올 1분기 산재 사망자 113명 중 이주노동자는 18명으로, 전체의 15.9%를 차지했다. 국내 경제활동인구(약 3000만명) 대비 외국인 취업자(약 110만명) 비중(3.6%)을 고려하면 월등히 높은 수치다. 지난해 1분기 산재 사망자 중 이주노동자 비율은 14.6%로, 오히려 올해가 더 높다.
2024년 국가인권위원회 ‘이주노동자 사망에 대한 원인 분석 및 지원 체계 구축을 위한 연구’를 보면, 이주노동자 산재 사망률은 한국인 노동자 대비 3배가량 높은 수준이다. 공식 통계에 잡히지 않은 미등록 이주노동자 산재 사례 등을 포함하면, 이 수치는 더 커질 것으로 보인다.
곽이경 민주노총 노동안전보건국장은 “이주노동자들은 작고 열악한 사업장에서 근무하는 경우가 많고, 사업주들이 값싼 인력으로 활용하면서 안전보건 교육도 제대로 이뤄지지 않는 경우가 많다”며 “50인 미만 사업장도 안전관리 체계가 잘 갖춰지도록 해야하고, 고용허가제 폐지를 비롯해 이주노동자들이 자신의 권리를 지킬 수 있는 방안이 확대돼야 한다”고 했다.
산재 사망은 근로여건과 처우가 열악한 하청노동자들에게 더 집중되고 있다. 김주영 더불어민주당 의원이 지난해 국정감사에서 노동부로부터 제출받아 공개한 자료를 보면 2024년 기준 산재 사망자의 47.7%가 하청노동자들로, 2022년 통계 작성 이래 최고치를 나타냈다. 2025년 2분기에도 산재 사망자 중 하청노동자 비중은 44.3%로 절반에 달했다.
김 의원은 당시 국감에서 “안전 비용과 위험을 하청에 전가하는 위험의 외주화가 되풀이되면서 하청노동자가 죽음으로 내몰리고 있다”며 “하청구조를 바로잡을 수 있는 실효성 있는 대책이 필요하다”고 밝혔다.
한양사이버대학교(총장 이기정)는 최근 교육부가 관장하고 한국부동산원이 주관한 교육시설안전 인증 심사에서 사이버 1관과 사이버 2관 모두 ‘최우수 등급’을 획득했다고 알렸다.
교육시설안전 인증은 ‘교육시설 등의 안전 및 유지관리 등에 관한 법률’ 제11조에 따라 모든 학교가 의무적으로 취득해야 하는 국가 인증이다. 시설안전, 실내환경안전, 외부환경안전 등 3개 분야를 심사한다. 인증 등급은 최우수·우수·인증 3단계이다. 최우수 등급 유효기간은 10년이다.
한양사이버대는 2025년 3월부터 서류 준비와 시설 점검을 했다. 한양사이버대는 “이번 최우수 등급 획득은 학생과 교직원이 안심하고 생활할 수 있는 교육환경을 만들기 위한 지속적인 노력의 결과다. 앞으로도 안전을 최우선 가치로 삼아 교육시설 관리 수준을 지속해서 강화해 나가겠다”고 했다.

댓글목록

등록된 댓글이 없습니다.

서울그레이스피부과의원

서울그레이스피부과의원