검사출신변호사 챗봇이 자살 방조 때 책임은?…AI 속도 못 따라잡는 ‘사회적 룰’ > 자유게시판

검사출신변호사 챗봇이 자살 방조 때 책임은?…AI 속도 못 따라잡는 ‘사회적 룰’

페이지 정보

작성자 또또링2
댓글 0건 조회 8회 작성일 26-05-04 23:22

본문

검사출신변호사 AI 도입에 사활 건 국내외 기업들보안·안전 등 ‘리스크 관리’ 숙제국가 차원 안전장치 마련도 시급이 정부는 ‘AI 기본사회’ 개념 제시“사후 대응식 보호 체계 만들면 늦어선제적·탄력적으로 대책 강구해야”
“범용인공지능(AGI·인간 수준의 AI) 시대가 5년 내 도래해 산업혁명보다 10배 더 크고 빠른 파급력을 가질 것이다.”
데미스 허사비스 구글 딥마인드 최고경영자(CEO)는 지난 27일 서울에서 열린 과학기술정보통신부와의 양해각서(MOU) 체결식에서 이같이 말했다. 10년 전 이세돌 9단과 세기의 대국을 벌인 인공지능(AI) ‘알파고’를 개발하고 지난해 노벨 화학상까지 수상한 그는 AI가 산업혁명을 훨씬 뛰어넘는 변화를 몰고 올 것이라고 강조해왔다.
기술은 늘 규범보다 빨랐다. 하지만 AI는 그 간극을 유례없는 속도로 벌리고 있다. AI가 일의 효율성을 높이고 있지만, 이를 검증하고 통제할 체계는 기술 발전 속도만큼 빠르게 정비되지 못하고 있다. ‘책임 있는 AI’와 이를 실현하기 위한 거버넌스가 중요해지는 까닭이다.
속도전보다 중요한 것
29일 산업계에 따르면 국내외 기업들은 경쟁적으로 AI 도입에 나서고 있다. 기업들에 AI는 이제 선택이 아니라 생존 전략으로 받아들여진다. 문제는 속도전에 치우친 기술 도입이 윤리적 문제와 책임 공백으로 이어질 수 있다는 점이다.
AI 거버넌스는 이러한 위험을 관리하기 위한 체계다. AI 기술의 개발과 활용 전반에서 안전성·윤리성·공정성을 확보하기 위한 정책, 규정, 절차, 운영 관행 등을 포괄한다. 정부를 포함한 공적 영역만의 문제가 아니라 AI 기술을 활용하는 기업의 문제이기도 하다.
김성준 국민대 겸임교수는 “AI는 이해관계자가 매우 많은 기술이어서 각자의 목적과 기준이 충돌할 수밖에 없다”며 “이를 조율하기 위한 체계가 AI 거버넌스”라고 말했다.
김 교수는 오픈AI의 ‘성인 모드’ 도입 검토를 예로 들었다. “윤리나 ESG(환경·사회·지배구조) 관점에서는 쉽지 않은 결정이지만, 수익이나 이용자 확대를 고려하는 경영진 입장에서는 외면하기 어려운 선택”이라며 “AI를 어디까지 개발하고 어떻게 활용할지에 대한 기준이 명확하지 않으면 혼선이 커진다”고 했다.
경제협력개발기구(OECD)가 2019년 수립하고 2024년 개정한 ‘OECD AI 원칙’은 기업과 국가를 포함한 글로벌 AI 거버넌스 논의에서 토대 역할을 한다. OECD가 제시하는 5가지 일반 원칙은 포용적 성장과 지속 가능한 개발 및 웰빙, 공정성과 프라이버시를 포함한 인권 및 민주적 가치, 투명성 및 설명 가능성, 견고성·보안성 및 안전성, 책임성이다.
미국 정부와 AI 윤리를 둘러싸고 대립하는 앤트로픽의 경우 자사 클로드가 어떻게 판단하고 행동해야 하는지를 규정한 ‘클로드 헌법’과 핵심 안전 정책인 ‘책임 있는 확장 정책(RSP)’을 두고 있다.
국내에서도 AI 개발사 등 정보기술(IT) 기업을 중심으로 AI 거버넌스가 구체화되고 있다.
SK텔레콤은 2024년 AI 거버넌스 원칙 ‘T.H.E AI’를 공개하고 AI 헌장 및 행동규범을 수립했다. 지난해에는 AI 서비스의 위험을 평가·관리하기 위한 사내 시스템인 ‘AI 거버넌스 포털’을 구축했다. SK텔레콤 관계자는 “통제를 벗어난 자율적 작동을 차단하기 위한 중단 조치 방안과 책임 체계가 마련됐는가 등 AI의 오류·환각 위험을 관리하기 위한 진단 항목들이 포함돼 있다”고 설명했다.
카카오도 AI 개발과 운영 과정에서의 위험을 사전에 식별·관리하는 체계인 ‘카카오 AI 세이프티 이니셔티브’를 운영하고 있다. 카카오 관계자는 “거시적 차원의 AI 리스크 대응은 정부 또는 국제사회에서 규제·표준 수립을 통해 이뤄지고 있지만, 현장의 속도를 따라가지 못하고 있다”며 기업이 스스로 내부 통제와 책임 체계를 정비하는 것이 필요하다고 봤다.
내부 구성원이 AI를 업무에 어떻게 활용하고, 책임지는가 하는 문제도 기업들의 주요 과제로 떠올랐다. 기업들은 AI가 생성한 결과물을 업무에 활용하기 전 사실관계와 인용자료의 오류, 출처 등을 사용자가 직접 검수하도록 하는 가이드라인을 마련했거나 추진하고 있다.
국내외 법조계에서 AI가 만들어낸 ‘가짜 판례’를 그대로 인용하는 사례가 속출하면서 대응책 마련에 나선 것도 같은 맥락이다.
김 교수는 “AI가 의사결정을 보조하더라도 최종 판단은 인간이 내려야 한다는 ‘휴먼 인 더 루프’(Human in the loop) 원칙이 중요하다”고 말했다. 그는 AI 거버넌스가 문서에 그치지 않고 실제로 작동하려면 “구성원과 경영진이 그 기준에 맞춰 실제로 일하고 의사결정을 내리는 것이 중요하다”고 했다.
새로운 ‘사회 설계’로
AI가 기존 제도와 규범만으로는 감당하기 어려운 변화를 일으키면서 각국도 새로운 체계 마련에 나서고 있다. 한국은 올해 1월 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(AI 기본법)을 시행하며 국가 차원의 거버넌스 확립을 추진 중이다. 이재명 정부는 모두가 AI의 혜택을 누리는 ‘AI 기본사회’라는 개념도 제시했다. 다만 산업 육성에 치우쳤다는 평가와 함께 안전·인권 보호 장치가 촘촘히 마련돼야 한다는 지적이 나온다.
박성필 카이스트 문술미래전략대학원장은 ‘예견적 거버넌스’와 ‘미래 세대의 기본권’을 중심으로 한 정책 설계가 중요하다고 봤다. 예견적 거버넌스는 기존의 사후 대응식 거버넌스에서 벗어나 미래를 내다보고 선제적·탄력적으로 대비하는 체계를 말한다. 박 원장은 “AI 기술 발전 속도가 너무 빠른 만큼 어떤 일들이 일어나는지 충분히 지켜본 뒤 대응하는 방식으로는 늦다”고 말했다. 그는 정부뿐 아니라 기업, 시민 등 다양한 이해당사자가 참여해 숙의를 하면서도 속도를 높이는 게 중요하다고 짚었다.
박 원장은 “AI 거버넌스는 우리가 일을 하고 소득을 얻으며 살아가는 사회의 틀을 정하는 문제”라며 “지금 룰을 제대로 만들어놓지 않으면 후대에게 큰 영향을 미칠 수 있다”고 했다. 환경이나 자원처럼 AI로 형성되는 사회 구조 역시 미래 세대에게 물려줄 유산이라는 의미다.
자율주행차 사고처럼 AI가 개입된 상황에서 ‘누가 법적 책임을 져야 하는가’는 점차 현실의 문제가 되고 있다. 미국과 유럽에서는 AI 챗봇이 자살을 방조했다며 책임을 묻는 소송도 제기되고 있다.
중국의 개혁·개방 초기였던 1989년 톈안먼 사태는 서구 세계에 큰 충격을 던졌다. 무력으로 자국 시민을 진압하는 중국 공산당의 모습은 분명 자유주의적 가치와는 양립하기 어려웠다. 그럼에도 불구하고 서구는 중국에 대해 결정적인 경제 제재를 가하지 않았다. 이러한 판단의 근저에는 일종의 역사적 낙관주의가 자리 잡고 있었다. 경제가 성장하고, 국민소득이 증가하며, 중산층이 형성되면 정치적 민주주의 역시 뒤따를 것이라는 믿음이었다. 한국을 비롯한 동아시아의 경험은 이런 낙관론의 생생한 사례였다. 한편으론 세계화가 심화될수록 국가 간 경제적 이해관계가 촘촘히 얽히게 되고, 그 결과 전면전의 가능성은 점차 사라질 것이라는 기대도 존재했다.
하지만 지난 몇년의 현실은 이러한 낙관을 정면으로 배반하고 있다. 중동에서는 국지적 충돌을 넘어서는 전면전 양상의 갈등이 이어지고 있고, 러시아·우크라이나 전쟁은 4년 넘게 지속되며 국제 질서를 흔들고 있다. 정치의 영역에서도 변화는 뚜렷하다. 중국의 시진핑은 권력 집중을 강화하며 장기 집권 체제를 공고히 했고, 미국에서는 도널드 트럼프의 등장이 기존의 자유주의적 질서에 균열을 냈다. 2021년 1월 미국 의사당 습격은 민주주의의 제도적 안정성마저 흔들릴 수 있음을 보여준 상징적 사건이었다. 여기에 러시아의 푸틴, 튀르키예의 에르도안과 같은 ‘스트롱맨’들이 장기 집권 체제를 구축하고 있다.
데이터화 된 개인 보호에 한계
전쟁과 기술을 바라보는 시각에서도 뚜렷한 균열이 드러난다. 얼마 전 구글 엔지니어들은 인공지능(AI)의 군사적 활용에 반대한다는 목소리를 냈다. 이들은 기술이 인간의 통제 밖으로 나아가는 것에 대한 윤리적 우려를 제기한다. 그러나 반대편에서는 전혀 다른 대항 논리가 존재하고 있다. 팔란티어의 공동 창업자 피터 틸과 알렉스 카프로 대표되는 기술 엘리트들은 미·중 경쟁이라는 현실 속에서 기술과 군사력의 결합은 선택이 아니라 필수라고 주장한다. 이들의 시각에서 윤리적 주저함은 경쟁력 약화로 이어질 뿐이다. 기술은 중립적 도구가 아니라 국가의 핵심 자산이며, 공동체의 생존과 직결된다는 인식이 그 배경에 깔려 있다. 피터 틸의 영향을 받은 벤처 캐피털리스트 출신 J D 밴스가 부통령으로 부상한 점도 미국 정치가 기술 엘리트, 신우파, 국가주의의 결합이라는 새로운 국면으로 들어섰음을 보여준다.
이러한 흐름은 어디서 비롯되는 것일까. 산업자본주의의 산물이었던 서구 민주주의가 AI·데이터 자본주의에 직면하면서 나타나는 기능부전의 성격이 강하다고 본다. 서구 민주주의는 도덕적 원리만으로 탄생한 제도가 아니었다. 그것은 산업자본주의에 적합한 정치적 상부구조였다. 봉건제 아래 농민은 토지와 신분제에 묶여 있었다. 산업자본주의는 농민을 도시의 임금노동자로 이동시켜야 했다. 노동자는 법적으로 자유로운 개인이어야 했고, 자신의 노동력을 시장에서 팔 수 있어야 했다. 그래서 근대의 법과 정치는 계약의 자유, 사적 소유, 법 앞의 평등, 대의제 민주주의라는 형식을 발전시켰다. 물론 보통선거와 노동권은 자본주의가 선물한 것이 아니라 투쟁을 통해 쟁취된 것이었지만, 산업자본주의가 요구한 인간형은 적어도 ‘자유로운 계약 주체’였다.
그러나 오늘날 부상하는 AI·데이터 자본주의는 다른 인간형을 요구한다. 이 체제에서 개인은 더 이상 단순한 노동력 제공자나 소비자에 머무르지 않는다. 검색, 이동, 소비, 의사소통 등 일상의 모든 행위가 데이터로 전환되며, 개인은 끊임없이 데이터를 생성하는 존재로 재구성된다. 즉 ‘권리의 주체’ 이전에 ‘데이터의 발생원’으로 포착되는 경향이 강화된다. 이 변화는 정치적 구조에도 압력을 가한다. 계약하는 개인을 전제로 한 법과 제도는 데이터화된 개인을 설명하고 보호하는 데 한계를 가지게 된다.
데이터의 광범위한 활용이라는 관점에서는 오히려 권위주의 체제가 갖는 기능적 우위가 부각된다. 민주주의 국가는 개인정보 보호, 표현의 자유, 사법적 AI 견제와 같은 다양한 제약 속에서 움직인다. 반면 권위주의 국가는 이러한 제약이 상대적으로 약하다. 따라서 더 많은 데이터를, 더 빠르게, 더 강제적으로 수집하고 활용할 수 있다. 감시와 통제, 예측을 핵심으로 하는 AI 기술은 이러한 환경과 높은 친화성을 보인다. 알고리즘의 눈으로 보면 불복종, 느린 절차, 반대 의견 등은 시민적 권리이기 전에 시스템의 비효율처럼 보일 수 있다. 최근 AI 생태계에서 나타나고 있는 중국의 약진은 그들의 권위주의적 리더십과 무관하지 않다.
직면한 문제는 기술의 방향성
그러나 권위주의가 필연적으로 우월하다는 결론은 성급하다. AI는 데이터의 양만으로 작동하지 않는다. 좋은 데이터, 오류 수정 능력, 비판적 검증, 법적 안정성, 사회적 신뢰가 필요하다. 권위주의 체제는 통제에는 강점을 가지지만, 진실을 왜곡하거나 비판을 억압함으로써 오히려 현실 인식의 오류를 키울 수 있다. 문제는 AI 그 자체가 아니라 AI와 데이터를 누가 소유하고, 누가 감시하며, 어떤 정치적 질서 안에 둘 것인가다.
결국 우리가 직면한 문제는 기술의 방향성에 관한 것이다. 피터 틸이나 알렉스 카프가 제시하는 기술 지상주의적 세계관은 일정 부분 현실을 반영하고 있다. 국가 간 경쟁이 격화되는 상황에서 기술 우위를 확보해야 한다는 주장 자체를 부정하기는 어렵다. 그러나 문제는 그 논리가 쉽게 개인의 자유와 권리를 후순위로 밀어낼 수 있다는 점이다. 기술이 목적이 되고 인간이 수단으로 전락하게 된다면 그 체제에서 나타나는 극단의 효율이 인간에게 어떤 의미가 있을까 싶다.
기술은 언제나 권력과 결합해왔다. 그리고 지금 우리는 그 결합의 방식이 바뀌는 전환점에 서 있다. 기술의 속도도 중요하지만, 그것을 통제하는 규범과 제도의 방향도 중요하다. AI 시대가 권위주의의 시대가 될 것인지, 아니면 새로운 민주주의의 기반이 될 것인지는 이미 정해진 미래가 아니다. 선택의 문제이며, 동시에 정치의 문제다.

이전글출장용접 출장용접 서울탐정사무소 폰테크 26.05.04
다음글2025-05-23 금요일 주도주 시황 26.05.04

댓글목록

등록된 댓글이 없습니다.

서울그레이스피부과의원

서울그레이스피부과의원