산업혁명 뛰어넘는 AI, ‘일하고 사는 틀을 바꾸는 문제’라는데···AI 거버넌스 어디까지 > 자유게시판

산업혁명 뛰어넘는 AI, ‘일하고 사는 틀을 바꾸는 문제’라는데···AI 거버넌스 어디까지

페이지 정보

작성자 또또링2
댓글 0건 조회 16회 작성일 26-05-04 12:14

본문

“범용인공지능(AGI·인간 수준의 AI) 시대가 5년 내 도래해 산업혁명보다 10배 더 크고 빠른 파급력을 가질 것이다.”
데미스 허사비스 구글 딥마인드 최고경영자(CEO)는 지난 27일 서울에서 열린 과학기술정보통신부와의 양해각서(MOU) 체결식에서 이같이 말했다. 10년 전 이세돌 9단과 세기의 대국을 벌인 인공지능(AI) ‘알파고’를 개발하고 지난해 노벨화학상까지 수상한 그는 AI가 산업혁명을 훨씬 뛰어넘는 변화를 몰고 올 것이라고 강조해 왔다.
기술은 늘 규범보다 빨랐다. 하지만 AI는 그 간극을 유례없는 속도로 벌리고 있다. AI가 일의 효율성을 높이고 있지만, 이를 검증하고 통제할 체계는 기술 발전 속도만큼 빠르게 정비되지 못하고 있다. 안전성과 신뢰를 핵심 가치로 한 ‘책임 있는 AI’와 이를 실현하기 위한 거버넌스가 중요해지는 까닭이다.
■속도전보다 중요한 것
29일 산업계에 따르면 국내외 기업들은 경쟁적으로 AI 도입에 나서고 있다. 기업들에게 AI는 이제 선택이 아니라 생존 전략으로 받아들여진다. 문제는 속도전에 치우친 기술 도입이 윤리적 문제와 책임 공백으로 이어질 수 있다는 점이다.
AI 거버넌스는 이러한 위험을 관리하기 위한 체계다. AI 기술의 개발과 활용 전반에서 안전성·윤리성·공정성을 확보하기 위한 정책, 규정, 절차, 운영 관행 등을 포괄한다. 정부를 포함한 공적영역만의 문제가 아니라 인공지능 기술을 활용하는 기업의 문제이기도 하다.
인적자원과 조직문화를 연구하는 김성준 국민대 겸임교수는 “AI는 이해관계자가 매우 많은 기술이어서 각자의 목적과 기준이 충돌할 수밖에 없다”며 “이를 조율하기 위한 체계가 AI 거버넌스”라고 말했다.
김 교수는 오픈AI의 ‘성인 모드’ 도입 검토를 예로 들었다. 김 교수는 “윤리나 ESG(환경·사회·지배구조) 관점에서는 쉽지 않은 결정이지만, 수익이나 이용자 확대를 고려하는 경영진 입장에서는 외면하기 어려운 선택”이라며 “AI를 어디까지 개발하고 어떻게 활용할지에 대한 기준이 명확하지 않으면 혼선이 커진다”고 말했다.
경제협력개발기구(OECD)가 2019년 수립하고 2024년 개정한 ‘OECD AI 원칙’은 기업과 국가를 포함한 글로벌 AI 거버넌스 논의에서 토대 역할을 한다. OECD가 제시하는 5가지 일반 원칙은 포용적 성장, 지속가능한 개발 및 웰빙, 공정성과 프라이버시를 포함한 인권 및 민주적 가치, 투명성 및 설명 가능성, 견고성·보안성 및 안전성, 책임성이다.
미국 정부와 AI 윤리를 둘러싸고 대립하는 앤트로픽의 경우 자사 AI 모델 클로드가 어떻게 판단하고 행동해야 하는지를 규정한 ‘클로드 헌법’과 핵심 안전 정책인 ‘책임 있는 확장 정책(RSP)’을 두고 있다.
국내에서도 AI 개발사 등 정보기술(IT) 기업을 중심으로 AI 거버넌스가 구체화되고 있다.
SK텔레콤은 2024년 AI 거버넌스 원칙 ‘T.H.E AI’를 공개하고 AI 헌장 및 행동규범을 수립했다. 지난해에는 AI 서비스의 위험을 평가·관리하기 위한 사내 시스템인 ‘AI 거버넌스 포털’을 구축했다. SK텔레콤 관계자는 “통제를 벗어난 자율적 작동을 차단하기 위한 중단 조치 방안과 책임 체계가 마련됐는가 등 AI의 오류·환각 위험을 관리하기 위한 진단 항목들이 포함돼 있다”고 설명했다.
카카오도 AI 개발과 운영 과정에서의 위험을 사전에 식별·관리하는 체계인 ‘카카오 AI 세이프티 이니셔티브’를 운영하고 있다. 카카오 관계자는 “거시적 차원의 AI 리스크 대응은 정부 또는 국제사회에서 규제·표준 수립을 통해 이뤄지고 있지만, 현장의 속도를 따라가지 못하고 있다”며 기업이 스스로 내부 통제와 책임 체계를 정비하는 것이 필요하다고 봤다.
내부 구성원이 AI를 업무에 어떻게 활용하고, 그 결과에 책임지는가 하는 문제도 기업들의 주요 과제로 떠올랐다. 기업들은 AI가 생성한 결과물을 업무에 활용하기 전 사실관계와 인용자료의 오류, 출처 등을 사용자가 직접 검수하도록 하는 가이드라인을 마련했거나 도입을 추진하고 있다.
최근 아마존의 사례는 ‘AI를 사용하되 100% 신뢰하진 말라’는 경고를 보여준다. 파이낸셜타임스에 따르면 최근 아마존은 자사 쇼핑 사이트가 6시간 동안 오류를 일으키는 등 잇따라 대형 장애가 발생하자 원인 중 하나로 ‘생성형 AI을 활용한 변경’을 지목했다. 이후 주니어·중급 엔지니어가 AI로 생성한 코드를 배포하기 전 반드시 시니어 엔지니어의 승인을 거치도록 했다.
국내외 법조계에서 AI가 만들어낸 ‘가짜 판례’를 그대로 인용하는 사례가 속출하면서 대응책 마련에 나선 것도 같은 맥락이다.
김 교수는 “AI가 의사결정을 보조하더라도 최종 판단은 인간이 내려야 한다는 ‘휴먼 인더 루프’(Human in the loop) 원칙이 중요하다”고 말했다. 그는 AI 거버넌스가 문서에 그치지 않고 실제로 작동하려면 “구성원과 경영진이 그 기준에 맞춰 실제로 일하고 의사결정을 내리는 것이 중요하다”고 했다. 이어 “한 번 제정됐다고 끝나는 게 아니라 딜레마 상황에서 어떻게 할지 계속 논의하는 과정이 필요하다”고 강조했다.
대다수 기업들은 아직 AI 거버넌스보다는 AI 기술 도입 자체에 무게를 두고 있는 것으로 보인다. 한 제조기업 직원은 “보안 등급을 나누듯이 직무 포지션과 업무에 따라 활용할 수 있는 AI 도구와 업무 영역 정도를 안내할 뿐 조직의 전반적인 원칙은 없는 상황”이라고 말했다.
향후 제조 현장에 로봇으로 대표되는 ‘피지컬 AI’가 도입되면서 이를 둘러싼 노사 갈등이 본격화할 것으로 전문가들은 전망한다. 현대자동차 노조가 노사 합의 없이는 휴머노이드 로봇 ‘아틀라스’ 도입을 받아들일 수 없다며 반발한 사례가 대표적이다. 이는 AI 거버넌스가 단순한 기업 차원의 문제를 넘어 노동과 산업 구조 전반을 아우르는 사회적 설계 문제로 확장되고 있음을 보여준다.
■새로운 ‘사회 설계’로
AI가 기존 제도와 규범만으로는 감당하기 어려운 변화를 일으키면서 각국도 새로운 체계 마련에 나서고 있다. 한국은 올해 1월 ‘인공지능 발전과 신뢰기반조성 등에 관한 기본법’(AI 기본법)을 시행하며 국가 차원의 거버넌스 확립을 추진 중이다. 이재명 정부는 모두가 AI의 혜택을 누리는 ‘AI 기본사회’라는 개념도 제시했다. 다만 정부 정책이 산업 육성에 치우쳤다는 평가와 함께 안전·인권 보호 장치가 보다 촘촘히 마련돼야 한다는 지적이 나온다.
박성필 카이스트 문술미래전략대학원장은 ‘예견적 거버넌스’와 ‘미래 세대의 기본권’을 중심으로 한 정책 설계가 중요하다고 봤다. 예견적 거버넌스는 기존의 사후 대응식 거버넌스에서 벗어나 미래를 내다보고 선제적·탄력적으로 대비하는 체계를 말한다. 박 원장은 “AI 기술 발전 속도가 너무 빠른 만큼 어떤 일들이 일어나는지 충분히 지켜본 뒤 대응하는 방식으로는 늦다”고 말했다. 그는 정부뿐 아니라 기업, 시민 등 다양한 이해당사자가 참여해 숙의를 하면서도 속도를 높이는 게 중요하다고 짚었다.
박 원장은 “AI 거버넌스는 우리가 일을 하고 소득을 얻으며 살아가는 사회의 틀을 정하는 문제”라며 “지금 룰을 제대로 만들어놓지 않으면 후대에 큰 영향을 미칠 수 있다”고 했다. 환경이나 자원처럼 AI로 형성되는 사회 구조 역시 미래 세대에 물려줄 유산이라는 의미다.
자율주행차 사고처럼 AI가 개입된 상황에서 ‘누가 법적 책임을 져야 하는가’는 점차 현실의 문제가 되고 있다. 미국과 유럽에서는 AI 챗봇이 자살을 방조했다며 책임을 묻는 소송도 제기되고 있다. 박 원장은 “AI에 대한 책임 규범은 아직 구체적으로 마련되지 않은 상태”라며 “기존의 인간 중심 책임 체계를 AI에 맞게 재설계할 수밖에 없다”고 말했다.
정부가 중동발 고유가 대책 일환으로 서울 지하철 2·7호선, 버스 196개 노선 등 대중교통 운행을 늘리고, 평소보다 빠르거나 늦은 시차출퇴근 시 교통비 환급률을 높이기로 했다. 차량 5부제 등은 민간에 의무 적용하지 않기로 했다.
국토교통부는 28일 정부세종청사에서 대중교통 이용을 적극 권장하는 ‘출퇴근 대중교통 혼잡 완화 종합대책’을 발표했다.
정부는 혼잡도가 높은 구간부터 버스와 지하철 운행을 늘린다.
서울 버스는 2312번(상암동~길동), 361번(흑석동~대방역) 등 혼잡도가 높은 196개 노선에서 운행 횟수를 하루 4회 늘렸다. 수원·양주 등 일부 광역버스 노선 운행 횟수를 늘리는 것도 각 지방자치단체와 협의 중이다.
서울 지하철 2호선 사당~방배, 7호선 철산~가산디지털단지 등의 전동차 운행 횟수도 18회 늘렸다. 동인천~용산을 오가는 경인선 특급열차는 조만간 대방·신길·개봉·동암·제물포 등 5개역을 정차역으로 추가 지정한다. 대중교통에 몰리는 시간을 분산하기 위한 노력도 병행된다.
정부는 공공부문에 시차출퇴근제 최소 30% 적용을 권고하고, 석유 경보가 ‘심각’ 단계로 올라가면 비율을 최소 50%로 확대한다. 민간부문엔 일단 시차출퇴근 참여를 요청하면서, ‘심각’ 단계로 들어서면 시차출퇴근 실시 기업에 대한 장려금 지원을 추진한다.
시차출퇴근 시 ‘K패스 모두의 카드’ 환급 비율을 30%로 늘리는 방안은 지난 1일부터 시행 중이다. 일반 카드 이용자의 경우 오전 5시30분~6시30분·9~10시, 오후 4~5시·7~8시에 대중교통을 이용하면 환급 비율이 20%에서 50%로 늘어났다. 이는 오는 9월30일까지 한시 적용된다.
차량 5부제는 민간에 적용하지 않기로 했다. 앞서 정부는 지난달 말 ‘주의’ 단계에서 공공기관 차량 5부제를 실시했고, 이달 초 ‘경계’ 격상 직후 2부제(홀짝제)로 강화한 바 있다.
정부 관계자는 “경제에 미칠 영향이 있기 때문에 차량 부제 민간 의무화는 고려하고 있지 않다”고 말했다.
한편 정부는 이날 청와대에서 대통령 주재 제18차 국무회의 겸 제6차 비상경제점검회의를 열고 고유가로 인한 소비 위축을 막기 위해 ‘친환경 녹색 소비·관광 붐업’ 방안을 의결했다.
먹거리 물가 안정을 위해 정부는 5~6월 중 대대적인 농축수산물 할인 행사를 진행한다. 정부 협력 유통업체에서 판매하는 채소, 과일, 닭고기 등에 최대 40% 할인이 적용된다.
지난 2월부터 해온 ‘계란 한 판(30개) 1000원 할인’ 행사는 당초 29일 종료 예정이었으나 한 달을 연장해 5월27일까지 진행하기로 했다. 디지털 온누리상품권은 5월1일부터 5일간 할인율을 기존 7%에서 10%로 한시적으로 상향한다.
더불어민주당이 63년 만에 근로자의날에서 노동절로 명칭이 복원되고 법정공휴일로 지정된 1일 “노동 존중 사회를 완성하겠다”고 밝혔다.
부승찬 민주당 대변인은 이날 서면 브리핑을 내고 “이재명 정부와 민주당은 모든 일터에서 노동자의 생명이 보호받고, 헌신에 걸맞은 대우가 보장되는 노동 존중 사회를 완성하기 위해 끝까지 책임을 다하겠다”며 이같이 말했다.
부 대변인은 “올해는 부지런히 일하라는 뜻이 담긴 근로자의날 대신 노동 그 자체의 가치를 기리는 노동절을 법정공휴일로 맞이하는 첫해”라며 “이는 단순한 명칭의 교체가 아니다. 노동의 주체성을 인정하고 그 가치를 사회 전체가 존중하겠다는 약속”이라고 말했다.
부 대변인은 “다만 이름을 되찾은 것만으로 갈 길이 끝난 것은 아니다”라며 “이 약속이 일터에서 확실한 보상과 안전으로 구현될 때, 비로소 노동이 제대로 존중받는 사회로 나아갈 수 있다”고 했다.
정청래 민주당 대표는 이날 오전 경기 평택시 평택항 해상교통관제센터와 충남 서산소방서 등을 연이어 찾아 근무하는 노동자들을 격려했다.
민주당은 이재명 대통령이 전날 수석보좌관회의에서 “일부 조직 노동자들이 자신들만 살겠다고 과도한 요구, 부당한 요구를 해서 국민에게 지탄을 받게 되면 해당 노조뿐 아니라 다른 노동자들에게도 피해를 주게 된다”고 말한 데 대해 국민의힘이 “정책 실패를 인정한 자기모순”이라고 비판하자 반박에 나섰다.
박해철 민주당 대변인은 이날 서면 브리핑을 내고 국민의힘을 향해 “참으로 놀라운 흑백논리이자, 경이로울 정도로 저급한 노동관이 아닐 수 없다”며 “하청 노동자의 억울한 죽음과 부당한 처우를 막기 위한 최소한의 법적 방어막(노란봉투법)을 세우는 것과, 이미 상대적으로 높은 임금과 안정적 고용 환경을 누리는 대기업 노조에게 사회적 연대의식을 당부하는 것이 어째서 충돌한단 말인가”라고 말했다.

이전글출장용접 폰테크 서울탐정사무소 26.05.04
다음글[정리뉴스] ‘택배 과대포장 규제’ 시행···어디부터 과대 포장? 26.05.04

댓글목록

등록된 댓글이 없습니다.

서울그레이스피부과의원

서울그레이스피부과의원