폰테크 카페 챗봇이 자살 방조 때 책임은?…AI 속도 못 따라잡는 ‘사회적 룰’ > 자유게시판

폰테크 카페 챗봇이 자살 방조 때 책임은?…AI 속도 못 따라잡는 ‘사회적 룰’

페이지 정보

작성자 이진숭
댓글 0건 조회 28회 작성일 26-05-01 15:43

본문

폰테크 카페 AI 도입에 사활 건 국내외 기업들보안·안전 등 ‘리스크 관리’ 숙제국가 차원 안전장치 마련도 시급이 정부는 ‘AI 기본사회’ 개념 제시“사후 대응식 보호 체계 만들면 늦어선제적·탄력적으로 대책 강구해야”
“범용인공지능(AGI·인간 수준의 AI) 시대가 5년 내 도래해 산업혁명보다 10배 더 크고 빠른 파급력을 가질 것이다.”
데미스 허사비스 구글 딥마인드 최고경영자(CEO)는 지난 27일 서울에서 열린 과학기술정보통신부와의 양해각서(MOU) 체결식에서 이같이 말했다. 10년 전 이세돌 9단과 세기의 대국을 벌인 인공지능(AI) ‘알파고’를 개발하고 지난해 노벨 화학상까지 수상한 그는 AI가 산업혁명을 훨씬 뛰어넘는 변화를 몰고 올 것이라고 강조해왔다.
기술은 늘 규범보다 빨랐다. 하지만 AI는 그 간극을 유례없는 속도로 벌리고 있다. AI가 일의 효율성을 높이고 있지만, 이를 검증하고 통제할 체계는 기술 발전 속도만큼 빠르게 정비되지 못하고 있다. ‘책임 있는 AI’와 이를 실현하기 위한 거버넌스가 중요해지는 까닭이다.
속도전보다 중요한 것
29일 산업계에 따르면 국내외 기업들은 경쟁적으로 AI 도입에 나서고 있다. 기업들에 AI는 이제 선택이 아니라 생존 전략으로 받아들여진다. 문제는 속도전에 치우친 기술 도입이 윤리적 문제와 책임 공백으로 이어질 수 있다는 점이다.
AI 거버넌스는 이러한 위험을 관리하기 위한 체계다. AI 기술의 개발과 활용 전반에서 안전성·윤리성·공정성을 확보하기 위한 정책, 규정, 절차, 운영 관행 등을 포괄한다. 정부를 포함한 공적 영역만의 문제가 아니라 AI 기술을 활용하는 기업의 문제이기도 하다.
김성준 국민대 겸임교수는 “AI는 이해관계자가 매우 많은 기술이어서 각자의 목적과 기준이 충돌할 수밖에 없다”며 “이를 조율하기 위한 체계가 AI 거버넌스”라고 말했다.
김 교수는 오픈AI의 ‘성인 모드’ 도입 검토를 예로 들었다. “윤리나 ESG(환경·사회·지배구조) 관점에서는 쉽지 않은 결정이지만, 수익이나 이용자 확대를 고려하는 경영진 입장에서는 외면하기 어려운 선택”이라며 “AI를 어디까지 개발하고 어떻게 활용할지에 대한 기준이 명확하지 않으면 혼선이 커진다”고 했다.
경제협력개발기구(OECD)가 2019년 수립하고 2024년 개정한 ‘OECD AI 원칙’은 기업과 국가를 포함한 글로벌 AI 거버넌스 논의에서 토대 역할을 한다. OECD가 제시하는 5가지 일반 원칙은 포용적 성장과 지속 가능한 개발 및 웰빙, 공정성과 프라이버시를 포함한 인권 및 민주적 가치, 투명성 및 설명 가능성, 견고성·보안성 및 안전성, 책임성이다.
미국 정부와 AI 윤리를 둘러싸고 대립하는 앤트로픽의 경우 자사 클로드가 어떻게 판단하고 행동해야 하는지를 규정한 ‘클로드 헌법’과 핵심 안전 정책인 ‘책임 있는 확장 정책(RSP)’을 두고 있다.
국내에서도 AI 개발사 등 정보기술(IT) 기업을 중심으로 AI 거버넌스가 구체화되고 있다.
SK텔레콤은 2024년 AI 거버넌스 원칙 ‘T.H.E AI’를 공개하고 AI 헌장 및 행동규범을 수립했다. 지난해에는 AI 서비스의 위험을 평가·관리하기 위한 사내 시스템인 ‘AI 거버넌스 포털’을 구축했다. SK텔레콤 관계자는 “통제를 벗어난 자율적 작동을 차단하기 위한 중단 조치 방안과 책임 체계가 마련됐는가 등 AI의 오류·환각 위험을 관리하기 위한 진단 항목들이 포함돼 있다”고 설명했다.
카카오도 AI 개발과 운영 과정에서의 위험을 사전에 식별·관리하는 체계인 ‘카카오 AI 세이프티 이니셔티브’를 운영하고 있다. 카카오 관계자는 “거시적 차원의 AI 리스크 대응은 정부 또는 국제사회에서 규제·표준 수립을 통해 이뤄지고 있지만, 현장의 속도를 따라가지 못하고 있다”며 기업이 스스로 내부 통제와 책임 체계를 정비하는 것이 필요하다고 봤다.
내부 구성원이 AI를 업무에 어떻게 활용하고, 책임지는가 하는 문제도 기업들의 주요 과제로 떠올랐다. 기업들은 AI가 생성한 결과물을 업무에 활용하기 전 사실관계와 인용자료의 오류, 출처 등을 사용자가 직접 검수하도록 하는 가이드라인을 마련했거나 추진하고 있다.
국내외 법조계에서 AI가 만들어낸 ‘가짜 판례’를 그대로 인용하는 사례가 속출하면서 대응책 마련에 나선 것도 같은 맥락이다.
김 교수는 “AI가 의사결정을 보조하더라도 최종 판단은 인간이 내려야 한다는 ‘휴먼 인 더 루프’(Human in the loop) 원칙이 중요하다”고 말했다. 그는 AI 거버넌스가 문서에 그치지 않고 실제로 작동하려면 “구성원과 경영진이 그 기준에 맞춰 실제로 일하고 의사결정을 내리는 것이 중요하다”고 했다.
새로운 ‘사회 설계’로
AI가 기존 제도와 규범만으로는 감당하기 어려운 변화를 일으키면서 각국도 새로운 체계 마련에 나서고 있다. 한국은 올해 1월 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(AI 기본법)을 시행하며 국가 차원의 거버넌스 확립을 추진 중이다. 이재명 정부는 모두가 AI의 혜택을 누리는 ‘AI 기본사회’라는 개념도 제시했다. 다만 산업 육성에 치우쳤다는 평가와 함께 안전·인권 보호 장치가 촘촘히 마련돼야 한다는 지적이 나온다.
박성필 카이스트 문술미래전략대학원장은 ‘예견적 거버넌스’와 ‘미래 세대의 기본권’을 중심으로 한 정책 설계가 중요하다고 봤다. 예견적 거버넌스는 기존의 사후 대응식 거버넌스에서 벗어나 미래를 내다보고 선제적·탄력적으로 대비하는 체계를 말한다. 박 원장은 “AI 기술 발전 속도가 너무 빠른 만큼 어떤 일들이 일어나는지 충분히 지켜본 뒤 대응하는 방식으로는 늦다”고 말했다. 그는 정부뿐 아니라 기업, 시민 등 다양한 이해당사자가 참여해 숙의를 하면서도 속도를 높이는 게 중요하다고 짚었다.
박 원장은 “AI 거버넌스는 우리가 일을 하고 소득을 얻으며 살아가는 사회의 틀을 정하는 문제”라며 “지금 룰을 제대로 만들어놓지 않으면 후대에게 큰 영향을 미칠 수 있다”고 했다. 환경이나 자원처럼 AI로 형성되는 사회 구조 역시 미래 세대에게 물려줄 유산이라는 의미다.
자율주행차 사고처럼 AI가 개입된 상황에서 ‘누가 법적 책임을 져야 하는가’는 점차 현실의 문제가 되고 있다. 미국과 유럽에서는 AI 챗봇이 자살을 방조했다며 책임을 묻는 소송도 제기되고 있다.
삼성바이오로직스 노동조합이 노동절인 1일 전면 파업에 들어갔다. 지난 2011년 창사 이후 첫 파업이다. 노조는 전면 파업 사태가 경영진의 의사 결정 실패로 인한 것이라며, 회사에 즉각 협상에 나서라고 요구했다. 사측은 전면 파업으로 인한 손실히 1분기 매출의 절반 수준인 6400억원에 달할 것이라고 보고 있다.
삼성그룹 초기업 노동조합 삼성바이오로직스지부는 이날부터 오는 5일까지 전면 파업을 이어간다. 노조 조합원은 4000명 수준으로, 지난해 기준 삼성바이오로직스 직원 5455명의 73%를 차지한다. 조합원 중 절반이 넘는 2000여명이 이번 전면 파업에 참여 의사를 밝힌 것으로 알려졌다.
다만 노조는 연차휴가를 내고 업무에 임하지 않는 파업 방식을 택하기로 해 정확한 파업 인원을 파악하기는 어렵다.
삼성바이오로직스 노사는 지난해 12월부터 지난 3월까지 13차례 교섭을 이어왔으나 결국 입장차를 좁히지 못했다.
노조는 ‘인사 원칙 바로 세우기’ ‘그룹 내 임금 격차 해소’를 요구해 왔다. 구체적으로 1인당 3000만원 격려금 지급, 평균 14% 임금 인상, 영업이익 20% 성과급 배분 등을 요구했다. 회사 측은 임금 6.2% 인상안을 제시한 상태다.
이번 파업에 앞서 노사는 법정 공방을 벌이기도 했다. 회사 측은 노조를 상대로 쟁의행위 금지 가처분신청을 냈는데, 하루라도 생산을 멈추면 단백질이 변질돼 전량 폐기할 수밖에 없어 피해 규모가 크다는 이유에서다.
법원은 9개 공정 가운데 마지막 세 단계인 농축 및 버퍼 교환, 원액 충전, 버퍼 제조·공급 공정의 파업만 제한하고 나머지 6개 공정에서는 파업에 참여할 수 있도록 길을 열어줬다.
삼성그룹 초기업 노동조합 삼성바이오로직스지부는 이날 입장문을 내고 “성장하는 바이오의약품 위탁생산 시장에서 삼성바이오로직스가 소외되고 있는 이유는 현장을 외면한 경영의 결과”라며 “회사가 진정으로 손실과 고객사 신뢰 훼손을 우려한다면 직원들에게 책임을 돌릴 것이 아니라 즉시 실질 협상에 나서야 한다”고 밝혔다.
노조는 “이번 총파업은 단순 임금 문제가 아니라 삼성바이오로직스 경영진의 의사 결정 실패가 만든 사태”라며 “노조는 조정 결렬 이후 한 달 이상 실질 협상을 요구해 왔지만 회사는 책임 있는 제안 대신 가처분과 같은 법적 압박, 무차별적 연차 시기 변경권 통보, 파업 참석 여부 사전 확인, 손실 규모를 앞세운 경고성 메시지 등으로 대응했다”고 했다.
존 림 삼성바이오로직스 대표는 전날 “회사는 노동조합과 대화를 성실히 지속해 노사 관계가 안정될 수 있도록 노력하는 한편 이번 상황을 기로 회사와 직원이 서로 신뢰하고 존중하는 일터를 만들도록 최선을 다하겠다”고 밝혔다. 삼성바이오로직스 관계자는 생산 차질 우려와 관련해 “회사는 가용인력을 최대한 활용해 고객 피해를 최소화하기 위해 노력하고 있다”고 밝혔다.
이번 전면 파업 뒤에도 노사 간 합의에 이르지 못하면 재파업에 돌입할 수 있다는 예측이 나오고 있다.
노동절이 첫 법정공휴일이 된 1일 대전에서도 세계노동절을 기념하는 집회가 열렸다.
민주노총 대전본부는 이날 대전시청 앞 도로에서 ‘열사정신 계승’과 ‘원청교섭 쟁취’ 등을 내걸고 ‘2026 세계노동절 대전대회’를 개최했다.
이날 노동절 대회에는 민주노총 대전본부 소속 12개 산별노조 조합원 등 경찰 추산 4000여명의 노동자들이 참여했다. 김율현 민주노총 대전본부장의 대회사로 시작된 이날 대회에서는 공공연대노조 등 원청교섭 투쟁사업장의 투쟁사와 청년 조합원들의 결의문 낭독, 노동자합창단의 공연 등이 이어졌다.
김 본부장은 대회사를 통해 “오늘은 63년만에 되찾은 노동절이며, 30년 전 오늘 민주노총 대전본부가 출범했다”며 “노동자의 단결과 투쟁으로 자랑스러운 이름을 되찾은 날이어서 우리의 마음이 더욱 아프고 힘이 든다”고 말했다.
이어 “3월10일 원청교섭이 법으로 보장됐지만, 원청교섭을 요구하던 노동자가 차량에 깔려 죽었다”면서 “오늘 노동절대회는 서광석 열사의 죽음이 헛되지 않도록 투쟁하겠다는 다짐과 약속을 하는 자리로, 투쟁으로 원청교섭과 노동기본권을 쟁취할 것”이라고 밝혔다.
이날 대회 이후 참가자들은 대전시청 주변 약 2㎞ 구간을 행진한 뒤 해산했다. 경찰은 이날 행사 안전과 교통 통제 등을 위해 기동대를 비롯한 경력 177명을 행사장 주변에 배치했다.

이전글폰테크 폰테크 이혼전문변호사 26.05.01
다음글세종이혼전문변호사 [포토뉴스]제 춤 어때요? 26.05.01

댓글목록

등록된 댓글이 없습니다.

서울그레이스피부과의원

서울그레이스피부과의원