빌 게이츠, 일론 머스크, 마크 저커버그가 워싱턴에서 만나 미래 AI 규제에 대해 논의합니다.

빌 게이츠, 일론 머스크, 마크 저커버그가 워싱턴에서 만나 미래 AI 규제에 대해 논의합니다.

Updated 5:45 PM EDT, Wed September 13, 2023

 

인공 지능에 관한 3시간에 걸친 상원 청문회를 마치고 나온 몇몇 기술 기업의 수장인 Elon Musk는 인공 지능의 심각한 위험성을 요약했습니다.

"AI가 우리 모두를 죽일 가능성은 제로보다 높습니다. 확률은 낮다고 생각하지만 어느 정도 가능성이 있습니다."라고 머스크는 기자들에게 말했습니다. "AI를 잘못 사용하면 그 결과는 심각합니다."

그러나 그는 또한 이번 회의가 "문명의 미래에 매우 중요한 회의로 역사에 기록될 것"이라고 말했습니다.

척 슈머 상원 원내대표가 주최한 이 세션에는 유명 기술 기업 CEO, 시민사회 지도자, 60명 이상의 상원의원이 모였습니다. 총 9개의 세션 중 첫 번째 세션은 상원이 빠르게 변화하는 인공지능 산업을 규제하기 위한 법안 초안 작성을 준비하면서 공감대를 형성하는 것을 목표로 합니다. 이 그룹에는 메타, 구글, OpenAI, 엔비디아, IBM의 CEO가 참여했습니다.

슈머 의원은 수요일 오후 기자들에게 연방 정부가 AI를 감독해야 하느냐는 질문에 모든 참석자가 손을 들어 "예"라고 답했다고 말했습니다. 그러나 참석자들에 따르면 그 역할이 무엇이어야 하는지에 대한 합의와 법안에 대한 구체적인 내용은 아직 합의가 이루어지지 않았다고 합니다. 

혜택과 위험

빌 게이츠는 굶주린 사람들을 먹여 살릴 수 있는 AI의 잠재력에 대해 말했고, 익명의 한 참석자는 AI의 혜택을 누릴 수 있는 '혁신적 혁신'에 수백억 달러를 투자할 것을 촉구했다고 슈머는 말했습니다.

의회의 과제는 이러한 혜택을 촉진하는 동시에 기술 기반 차별 가능성, 국가 안보에 대한 위협, 심지어 X의 소유주인 머스크가 말한 "문명적 위험"을 포함한 AI의 사회적 위험을 완화하는 것입니다.

9개의 세션 중 첫 번째 세션을 주최한 슈머는 "이점은 극대화하고 피해는 최소화할 수 있어야 합니다."라고 말했습니다. "그리고 그것이 우리의 어려운 일이 될 것입니다."

회의에 참석한 상원의원들은 노동조합 대표들이 실직 문제를 제기하고 민권 지도자들이 사회에서 가장 힘없는 사람들에게 목소리를 낼 수 있는 포용적인 입법 절차의 필요성을 강조하는 등 다양한 관점을 들었다고 말했습니다.

워싱턴 민주당의 마리아 캔트웰 상원의원은 대부분의 참석자가 AI를 자체 장치에만 맡길 수 없다는 데 동의했다고 말했습니다.

"Microsoft의 사티아 나델라가 가장 잘 말한 것 같습니다. 'AI에 관해서는 자동 조종 장치에 대해 생각해서는 안 된다. 부조종사가 있어야 합니다. 그렇다면 누가 이 활동을 지켜보고 올바르게 수행되는지 확인할 수 있을까요?"

캔트웰은 연구 개발에 대한 연방 투자 확대, 숙련된 이민 및 교육 촉진과 같은 전통적인 기술 산업의 우선순위를 반영하는 다른 합의 사항도 있었다고 덧붙였습니다.

그러나 일부 어려운 질문, 특히 AI를 규제하기 위해 새로운 연방 기관이 필요한지 여부에 대한 참여가 눈에 띄게 부족했다고 그녀는 말했습니다.

그녀는 회의에서 몇몇 사람들이 상무부 산하기관 인 국립 표준 기술 연구소에 더 큰 감독 책임을 부여 할 가능성을 제기했지만 "그것에 대한 논의는 없었습니다."라고 그녀는 말했습니다.

머스크는 행사 후 기자들에게 AI를 규제하는 독립적인 기관이 언젠가는 설립될 가능성이 있다고 말했다.

두 사람의 만남?

CNN이 입수한 준비된 발언에 따르면 슈머는 "AI를 통해 우리는 모래 속에 머리를 박고 있는 타조처럼 될 수 없습니다."라고 말했습니다. 그는 또한 이것이 "의회에서 한 번도 본 적이 없는 대화"라고 언급했습니다.

이러한 움직임은 인공지능, 특히 ChatGPT와 같은 도구로 대중화된 생성형 인공지능이 상업적 생산성 향상부터 일자리, 국가 안보, 지적 재산권 위협에 이르기까지 다양한 방식으로 비즈니스와 일상 생활에 혼란을 줄 수 있다는 정책 입안자들의 인식이 커지고 있음을 반영하는 것입니다.

오전 10시 직전에 유명 인사들이 속속 모여들었고, 마크 저커버그 페이스북 CEO는 상원 러셀 사무실 건물의 케네디 코커스 룸 밖에서 엔비디아 CEO 젠슨 황과 잠시 대화를 나누기도 했습니다. 구글 CEO 순다르 피차이는 델라웨어 민주당 상원의원 크리스 쿤스와 함께 모여 있는 모습이 목격되었고, X의 소유주 머스크는 군중을 향해 손을 흔들며 빠르게 지나가는 모습이 카메라에 포착되었습니다. 내부에서 머스크는 저커버그와 반대편 끝에 앉았는데, 두 사람이 몇 달 전 서로 케이지 싸움을 시작한 이후 처음으로 같은 방을 사용한 것으로 보입니다.

워싱턴 미 국회의사당에서 열린 이 세션은 또한 기술 업계에 의원들이 AI를 규율할 수 있는 규칙을 설계하는 방식에 영향을 미칠 수 있는 가장 중요한 기회를 제공했습니다.

Google, IBM, Microsoft, OpenAI 등 일부 기업은 이미 백서와 블로그 게시물에서 감독, 테스트 및 투명성 계층을 설명하는 심층적인 제안을 내놓았습니다.

IBM의 CEO인 아빈드 크리슈나는 이 회의에서 미국 정책은 알고리즘 자체만이 아니라 위험한 AI 사용도 규제해야 한다고 주장했습니다.

그는 준비된 발언에서 "규제는 AI가 배포되는 맥락을 고려해야 한다"고 말했습니다.

규제에 대한 요구

OpenAI의 CEO인 샘 알트먼(Sam Altman)과 같은 경영진은 업계 초기부터 새로운 규제를 공개적으로 요구하여 일부 상원의원들을 놀라게 했는데, 일부 의원들은 규제에 저항해 온 소셜 미디어 업계와는 대조적인 모습이라며 환영하는 분위기입니다.

AI 회사인 Hugging Face의 공동 설립자 겸 CEO인 클레멘트 델랑그(Clement Delangue)는 지난달 트위터를 통해 슈머의 초청자 명단이 "가장 대표적이고 포괄적이지 않을 수도 있다"면서도 "특히 개방성, 투명성, 포용성, 권력 분배와 같은 주제에 대해 광범위한 커뮤니티 구성원들의 통찰력을 공유하려고 노력할 것"이라고 말했습니다.

시민 사회 단체들은 제대로 훈련되지 않은 알고리즘이 의도치 않게 소수자를 차별하거나 작가와 예술가의 저작권이 있는 저작물을 보상이나 허가 없이 수집할 수 있는 위험 등 AI의 잠재적 위험성에 대해 우려를 표명했습니다. 일부 작가는 이러한 주장에 대해 OpenAI를 고소했으며, 다른 작가는 공개 서한을 통해 AI 회사에게 저작권료를 지불할 것을 요청했습니다.

CNN, 뉴욕타임스, 디즈니와 같은 뉴스 퍼블리셔는 ChatGPT의 콘텐츠 사용을 차단한 콘텐츠 제작자 중 일부입니다. (OpenAI는 대규모 언어 모델 학습에는 공정 사용과 같은 예외 조항이 적용된다고 밝혔습니다.)

시민과 인권에 관한 리더십 컨퍼런스의 회장 겸 CEO인 마야 와일리는 "우리는 완전한 목소리와 투명성, 책임과 균형을 갖춘 진정한 민주적 절차가 될 수 있도록 열심히 노력할 것"이라며 "실제로 민주주의를 지원하고, 경제적 이동성을 지원하고, 교육을 지원하고, 모든 최선의 방법으로 혁신하여 소비자와 사람들을 보호하는 것이 아니라 피해를 입은 후에 문제를 해결하려고 하지 않도록 할 것"이라고 말했습니다.

이러한 우려는 소셜 미디어 플랫폼이 잘못된 정보, 허위 정보, 혐오 또는 폭력을 선동하는 발언을 처리하는 방식에 대한 기술 기업과의 "근본적인 의견 불일치"를 반영합니다.

랜디 와인가튼 미국교사연맹 회장은 미국이 소셜 미디어에서 했던 것과 같은 실수를 AI에서도 반복해서는 안 된다고 말했습니다. 그녀는 성명에서 "우리는 소셜 미디어가 아이들의 정신 건강에 미치는 해로운 영향이 분명해진 후에도 조치를 취하지 못했습니다."라고 말했습니다. "AI는 교육자를 대체하는 것이 아니라 보완해야 하며, 학생들의 피해를 막기 위해 특별한 주의를 기울여야 합니다."

정책 개발

이러한 다양한 이해관계를 조율하는 슈머 의원은 다른 세 명의 상원의원(사우스다코타 공화당 마이크 라운드스 상원의원, 뉴멕시코 민주당 마틴 하인리히 상원의원, 인디애나 공화당 토드 영 상원의원)과 함께 AI에 대한 상원의 접근 방식을 주도하고 있습니다. 올여름 초, 슈머는 상원의원들을 대상으로 세 차례의 정보 세션을 개최하여 미국 국가안보 당국자의 프레젠테이션을 포함한 기밀 브리핑을 통해 기술에 대한 최신 정보를 제공했습니다.

수요일의 기술 임원 및 비영리 단체와의 만남은 의원들이 정책 제안을 개발하기 전에 이 문제에 대한 다음 단계의 교육을 받는 자리였습니다. 6월에 이 시리즈를 발표하면서 슈머는 신중하고 신중한 접근의 필요성을 강조하며 "여러 면에서 우리는 처음부터 다시 시작하고 있다"고 인정했습니다.

그는 "AI는 의회가 이전에 다루었던 어떤 주제와도 다릅니다."라고 말하며 이 주제가 노동, 의료 또는 국방과는 다르다고 지적했습니다. "전문가들은 정책 입안자들이 어떤 질문을 해야 하는지조차 확신하지 못하고 있습니다."

라운즈는 구체적인 규제 범위를 정하는 것은 상원 위원회에 맡길 것이라고 말했습니다. 슈머는 더 많은 세션을 개최한 후 "몇 년이 아닌 몇 달에 걸쳐" 법안을 만드는 것이 목표라고 덧붙였습니다.

"우리는 아직 규정을 만들 준비가 되지 않았습니다. 우리는 아직 거기에 있지 않습니다."라고 라운즈는 말했습니다. "이것이 바로 이 모든 것의 목적입니다."

이미 여러 AI 법안이 국회 의사당에 발의되어 다양한 방식으로 업계를 통제하려 하고 있지만, 슈머의 추진은 이 문제에 대한 의회의 입법 의제를 조율하려는 더 높은 수준의 노력을 나타냅니다.

새로운 AI 법안은 또한 올해 초 일부 AI 기업이 대중에게 공개되기 전에 AI 모델이 외부 테스트를 거치도록 보장하기 위해 바이든 행정부에 약속한 자발적 약속에 대한 잠재적 백스톱 역할을 할 수 있습니다.

그러나 미국 의원들이 업계 및 시민 사회 단체와 만나 입법을 준비하고 있기는 하지만, 예측 치안을 위한 AI 사용을 금지하고 다른 맥락에서 AI를 사용하는 방법을 제한할 수 있는 포괄적인 AI 법을 연말까지 마무리할 것으로 예상되는 유럽 연합보다 몇 년은 아니더라도 이미 몇 달 뒤처져 있습니다.

상원의원들, AI 포럼 개최

초당파적인 미국 상원의원 한 쌍은 이 회의가 결과를 도출할 가능성이 낮고 AI의 사회적 위험에 대처하기에 충분하지 않다며 이 회의를 신랄하게 비판했습니다.

코네티컷 주 민주당 상원의원 리처드 블루멘탈과 미주리 주 공화당 상원의원 조쉬 하울리는 각각 회의가 끝난 후 기자들과 만나 이같이 말했습니다. 두 의원은 최근 인공지능을 위한 입법 프레임워크를 소개했는데, 이는 비공개로 진행된 것과는 대조적으로 인공지능을 규제하기 위한 구체적인 노력을 보여주는 것이라고 말했습니다.

블루멘탈은 "이 포럼은 법안을 만들기 위한 것이 아닙니다."라고 말했습니다. "우리 소위원회가 법안을 만들 것입니다."

블루멘탈은 새로운 독립적인 AI 감독 기관을 설립하고, AI 개발을 위한 라이선스 제도와 AI로 인한 피해에 대해 사람들이 기업을 고소할 수 있는 권한을 요구하는 제안된 프레임워크가 연말까지 법안 초안으로 이어질 수 있을 것이라고 덧붙였습니다.

블루멘탈은 "항공 안전, 자동차 안전, 의약품 안전, 의료 기기 안전을 위해 해왔던 일을 해야 합니다."라고 말합니다. "AI 안전도 다르지 않으며, 오히려 더 위험할 수도 있습니다."

Hawley는 수요일 세션을 기술 업계를 위한 "거대한 칵테일 파티"라고 부르며 비공개로 진행되었다는 사실에 불만을 표시했습니다.

"왜 우리가 세계에서 가장 큰 독점 기업들을 모두 초청하여 의회에 그들이 더 많은 돈을 벌 수 있는 방법에 대한 팁을 제공한 다음 대중에게 공개하지 않는지 모르겠습니다."라고 Hawley는 말했습니다. "그건 끔찍한 생각입니다. 이들은 소셜 미디어를 망친 바로 그 사람들입니다."

기술에 대해 강경하게 말하지만 슈머는 기술 법안에 대해 극도로 느리게 움직였다고 Hawley는 지난 의회에서 상원 표결에 부쳐지지 않은 몇 가지 주요 기술 법안을 지적했습니다.

"지난 2년 동안 반독점법과 비슷합니다."라고 Hawley는 말합니다. "그는 끊임없이 그것에 대해 이야기하고 그것에 대해 아무것도하지 않습니다. 제 생각에는... 이것은 실제로 아무것도 진전되지 않았다는 사실을 덮는 많은 노래와 춤입니다. 제가 틀렸기를 바랍니다."

하울리는 또한 미네소타주 민주당 상원의원 에이미 클로부차르가 주도하여 화요일에 발의한 기만적인 정치 광고 제작에 제너레이티브 AI를 사용하는 것을 금지하는 법안의 공동 후원자이기도 합니다. 클로부차르와 하울리는 동료 공동 발의자인 쿤스, 메인주 공화당 상원의원 수잔 콜린스와 함께 AI가 유권자를 조작하는 것을 막기 위해 이 법안이 필요하다고 말했습니다.

매사추세츠주 민주당 엘리자베스 워런 상원의원은 이번 정상회담의 광범위한 성격이 그 잠재력을 제한한다고 말했습니다.

워런은 경영진과 시민사회 지도자들에 대해 "그들은 혼자서 커다란 원탁에 앉아 있다"며 "모든 상원의원들은 앉아서 경청만 하고 질문은 하지 않았다"고 말했다. "안전과 혁신이 필요하다는 데 모두가 동의하는 대신 실제적인 것을 테이블 위에 올려놓자."

슈머는 이 회의를 비공개로 진행한 것은 의원들이 외부의 의견을 "꾸밈없이" 들을 수 있는 기회를 주기 위한 것이라고 말했습니다.