http://www.newscham.net/news/view.php?board=news&nid=107182
...2021년 제정된 「행정기본법」은 법 20조에서 “행정청은 법률로 정하는 바에 따라 완전히 자동화된 시스템(인공지능 기술을 적용한 시스템을 포함한다)으로 처분을 할 수 있다”고 명시했다. 법에 따르면 과속 단속, 주정차 위반 등 일상 곳곳에서 인공지능이 우리를 단속하고 벌금을 부과할 수 있다. 정부는 이미 실업자나 장애인의 사회보장급여 지급 결정에서 부정수급 여부를 탐지하고 거절하는 업무에 인공지능을 활용한다. 경찰은 지역 순찰에 인공지능을 사용하기 시작했고, 집회시위의 현장 채증에도 인공지능을 사용할 방안을 연구하고 있다. 자동차, 항공기, 승강기처럼 작동 중의 판단이 사람의 생명이나 신체에 중대한 위험을 미칠 수 있는 제품에도 인공지능은 적용된다. 우리가 인공지능을 사용하는 것이 아니라 인공지능에 의해 우리의 의사가 ‘결정되는’ 시대가 다가온 것이다...

...물론 이 의사결정 인공지능은 영화에서 본 것처럼 자의식을 지닌 것은 아니다. 인공지능이 내리는 판단이란 실은 인공지능의 뒤에 있는 기업과 권력이 내리는 결정이다... 2021년 유엔 인권최고대표는 인공지능 비밀주의 문제를 지적했다. 영업비밀을 비롯한 기업들의 비밀주의와 딥러닝을 비롯한 인공지능 기술 그 자체의 특성에 말미암은 ‘블랙박스 알고리즘’이 문제라는 지적이다.

... 사람에게 영향을 미치는 의사결정을 기계가 하게 됐을 때 어떤 위험이 있을까? ...인공지능 사고나 피해가 발생했을 때 누구에게 어떻게 책임을 물어야 할지 모른다는 것이다. 사고를 일으킨 것은 운전자인가? 아니면 완제품 제조사가 사고의 책임을 져야 하는가? 문제의 알고리즘은 누가 언제 개발한 것인가? 알고리즘이 잘못 학습했는가? 학습 데이터는 언제 어디서 수집한 것인가? 책임 관계가 복잡하고 모호한 상황에서는 이를 사용하는 소비자 또는 사고의 대상이 된 사람들만 큰 피해를 입는다. 인공지능의 불투명성으로 규제기관과 조사기관의 규범의 준수 여부 판단이 어렵고 피해자의 권리 구제 역시 어렵기 때문이다...

...최근 몇 년동안 여러 나라의 시민사회는 위험성이 높은 인공지능을 금지하거나 규제할 것을 요구하고 있다... 최근 세계적으로 가장 주목받고 있는 인공지능 관련 법은 유럽연합이 2021년부터 추진 중인 〈인공지능법〉과 미국이 2019년부터 추진 중인 〈알고리즘 책무성법〉이다... 〈알고리즘 책무성법〉은 교육 평가, 고용·노동관리·플랫폼 노동, 금융 서비스, 법률 서비스 등을 인공지능을 사용하기에 더 위험한 분야로 규정했다. 일정 규모 이상의 큰 기업에서 사용하는 고위험 인공지능의 경우 알고리즘과 데이터셋에 대한 상세한 사항을 기록해야 하고, 정기적으로 알고리즘과 데이터셋에 대한 영향평가를 실시하며 연방거래위원회 FTC의 규제를 받는다. 〈인공지능법〉은 한층 더 광범위하고 엄격하다. 자동차, 항공기, 승강기 등 안전 제품은 물론 고용·노동관리·플랫폼 노동, 교육 평가, 복지급여, 신용평가, 경찰, 재판 등에서 사용하는 인공지능을 모두 고위험으로 규정했다. 고위험 인공지능 관련 알고리즘과 데이터셋에 대한 거의 모든 사항을 기록해야 하고, 위험 평가, 데이터 품질 관리, 인적 개입 보장 등 엄격한 의무를 준수하고 이를 인증 받아야 한다. 이 의무를 위반하거나 규제 기관에 협조하지 않으면 전 세계 매출액의 4~6%에 달하는 과징금이 부과된다. 특히 〈인공지능법〉은 인간의 잠재의식에 영향을 미치거나, 장애인 또는 아동의 취약점을 악용하는 인공지능 등 지나치게 위험한 인공지능의 개발과 사용을 아예 금지했다....

...인공지능 채용 절차에서 떨어진 사람은 그 이유를 영영 알 수 없을 것이다. 인공지능 알고리즘에 의해 정리해고 대상자가 된 사람 역시 어떤 설명도 들을 수 없다. 강남의 학생들은 비수도권 학생보다 언제나 고평가될 것이다. 자율주행차가 사고를 일으키면 누가 책임을 질 것인지 알 수 없다. 그저 서로 책임을 미루는 혼란한 상황만 반복될 것이다...





바람계곡의 나우시카에서도 인간들이 분쟁과 갈등과 전쟁을 조정하기 위한 '객관적인 심판관'이자 법/행정/외교의 조정자로 거신병을 만들었다가 세계가 멸망하지요.
인간은 노답이라며 생성형 AI님이 다 해주실 거야 한 결과..