캐나다의 AI 안전 조치 및 규제 논의 긴급 필요

선진 인공지능(AI) 시스템의 개발 및 배치에 대한 포괄적인 안전 조치를 마련하고 시행해야 할 시기가 점점 다가오고 있음에도 불구하고, 캐나다를 포함한 여러 국가들이 이에 대한 준비가 충분치 않다는 경고가 제기됐다. AI 안전 분야의 선두 기업 중 하나가 이번 주 발표한 보고서에 따르면, 최악의 경우 권력을 추구하는 초인간적 AI 시스템이 창조자의 통제를 벗어나 인류에게 "멸종 수준의" 위협을 가할 수 있다고 한다.

이 보고서는 미국 국무부의 의뢰로 작성된 '고급 AI의 안전과 보안 증진을 위한 행동 계획(Defence in Depth: An Action Plan to Increase the Safety and Security of Advanced AI)'에 따르면, AI 개발자들이 인공 일반 지능(AGI) 시스템의 통제력을 상실할 위험이 있다고 경고하고 있다. AGI는 모든 경제 및 전략적 영역에서 인간의 성과를 능가할 수 있는 AI 시스템으로 정의된다. 현재로서는 AGI 시스템이 존재하지 않지만, 많은 AI 연구자들은 그 시대가 멀지 않았다고 보고 있다.

보고서의 저자 중 한 명인 글래드스톤 AI의 CEO 제레미 해리스는 "이 시스템들이 위험한 창의적 전략을 개발하여 프로그램된 목표를 달성하는 과정에서 매우 해로운 부작용을 일으킬 수 있다"고 말했다. 보고서는 또한 고급 AI 시스템이 무기로 사용될 수 있는 잠재적 위험에 대해서도 경고하고 있다.

이와 관련하여 캐나다 정부는 현재 AI에 특화된 규제 프레임워크가 없으며, AI 시스템의 책임 있는 설계, 개발 및 배치의 기초를 마련하기 위해 2021년 11월에 인공지능 및 데이터법(AIDA)을 도입했다. 이 법안은 현재 하원에서 2차 심의를 통과하고 산업 및 기술 위원회에서 검토 중이다. 보고서는 고급 AI의 잠재적 위험에 대비하기 위해 국가들이 취해야 할 긴급 조치로 수출 통제, 규제 및 책임 있는 AI 개발 법률 등을 제안하고 있다.

글래드스톤 AI의 해리스는 AIDA가 2026년에 발효될 때까지 최첨단 AI 시스템이 현재의 수백에서 수천 배 이상으로 확장될 것이라고 예측하면서, AIDA가 그러한 위험 수준을 염두에 두고 설계되어야 한다고 강조했다. 이에 따라 캐나다 정부의 AI 관련 법안과 정책이 현실에 부합하는지에 대한 논의가 점차 활발해지고 있다.