[스페셜경제=강민철 기자] 일상에서 활용이 늘어나는 인공지능(AI)의 잠재적 위험성 우려가 커지는 가운데 정부가 안정성 확보 방안 마련을 위해 전문가들과 머리를 맞댔다.

과학기술정보통신부가 AI 글로벌 규범 자문단 제1차 회의를 서울에서 최근 개최했다고 16일 밝혔다.

자문단은 정상회의의 주요 논의와 합의점 등을 모색하는 과정에서 우리나라 산업계·학계의 목소리를 반영하기 위해 구성한 산학연 협의체다.

자문단은 올해 5월 우리나라에서 영국과 개최할 AI 안전성 정상회의를 국내 AI 전문가와 함께 체계적으로 준비한다.

아울러 자문단은 AI 관련 문제도 심도 있게 다룬다.

최근 생성형 AI, 온디바이스 AI 등 AI가 기술적 발전을 거듭하면서 일상생활과 사회·산업 전반으로 확산하고 있어서다.

여기에 거짓 정보, 딥페이크, 사이버 보안 위협 등 고도화된 AI가 초래할 수 있는 잠재적 위험성에 대한 우려의 목소리도 커지고 있다.

UN 고위급 자문기구, G7 AI 히로시마 프로세스, 미국 AI 행정명령, 유럽연합(EU) AI 법 등 국제사회와 주요국에서 AI 규범을 정립하는 노력이 본격화하는 이유다.

우리나라는 디지털 기술·산업 역량을 인정받아 아시아 권역의 AI 강국으로서 차기 정상회의를 수임하게 됐다.

이에 따라 자문단은 세계적으로 AI가 안전하게 확산할 수 있도록 국가, 기업의 역할에 대한 구체적인 논의를 주도한다는 계획이다.

이번 자문단 회의에는 박윤규 과기정통부 차관, 전문가 20명이 제1차 정상회의 결과를 공유하고 제2차 정상회의의 주요 목표와 세부 내용 등을 논의했다.

이들은 AI 안전성 평가, 기업이 취해야 할 조치, 고성능 AI의 사회적 위험성 등을 다뤘다.

이들은 국내 AI 산업 환경에서 실현할 수 있는 세계적인 차원의 AI 안전성 확보, AI 막대한 전력소요·탄소배출 등에 대응하기 위한 에너지 안전성 확보 등 지속 가능한 AI 발전을 위한 제안에 대해서도 의견을 나눴다.

과기정통부는 자문단과 대면·영상회의를 수시로 열고 정상회의 목표, 의제 등을 설정·구체화해 우리나라의 AI 산업 육성을 뒷받침할 방침이다.

박윤규 차관은 “AI 안전성 정상회의 개최는 우리나라가 세계 AI 규범 정립에 이바지하고 세계와 함께 AI 혜택을 안전하게 누릴 수 있는 계기가 될 것이다. 구체적인 AI 안전성 확보를 위한 다국적 논의를 주도하고 이 과정에서 우리나라 산업계･학계의 의견을 반영해 국내 AI 산업 발전을 도모하겠다”고 말했다.

한편, 제1차 정상회의는 지난해 11월 영국에서 열렸다. 회의에서는 주요국 정상과 각료급 인사 등이 대거 참석해 AI의 위험성을 최소화하려는 방안 등을 찾았다.