태재미래전략연구원은 7월 13일 한국고등교육재단 컨퍼런스홀에서 포럼 ＜디지털 문명, 지속가능의 길을 묻다＞를 개최했다.

이번 포럼은 지난 4월 개최한 포럼 에 이은 두 번째 포럼으로, 반기문 전 UN 사무총장이 기조발제를 맡았으며, 김용학 전 연세대학교 총장과 이리나 보코바 전 UNESCO 사무총장, 박유현 DQ연구소 대표가 토론에 참여해 디지털 기술이 불러올 새로운 문명의 지속가능성에 대해 의견을 나눴다. 사회와 좌장은 김용학 전 연세대학교 총장이 맡았다.

이날 김성환 태재미래전략연구원 원장은 개회사에서 “AI가 인간의 통제력을 벗어나 문명의 파괴자가 될 수 있다”며, “인류가 직면한 위협 속에서 윤리적 균형을 찾고 기계와 인간이 조화롭게 공존할 수 있는 해법을 생각해 봐야 한다”고 이번 포럼 개최의 의의를 밝혔다.

1. 기조발제: Digital Age: A Pathway to Sustainability (반기문 전 UN 사무총장)

AI 시대 지속가능성을 위한 새로운 제도적 틀 필요
적절한 감시와 통제 위해 국제기구 설립해야

SDGs(지속 가능한 개발 목표)는 빈곤과 환경 문제, 평화와 번영 문제 등을 해결하기 위해 제정되었다. 인류는 목표를 달성하기 위해 진보하고 있지만 새로운 기술, 특히 AI의 등장으로 이 도전은 더 복잡해지고 있다. 디지털 시대 지속가능성을 위한 세 가지 주요 도전 과제를 살펴본다.

첫째, AI 기술에 대한 이해 부족과 이로 인한 부작용의 위험이다. 잘못된 정보나 시스템 오류, 사보타주 등에 따른 잘못된 결정이나 사고의 가능성, 이는 국가 안보 등에서 치명적 결과로 이어질 수 있다. 세계의 많은 지도자나 정책 집행자, 학자들은 AI의 위험성에 대해 우려를 표하고 있다. NPT나 IAEA와 같이 AI의 개발과 적용을 감시하고 통제할 국제기구 설립이 필요하다.

둘째, 기후 위기에 대한 대응이 지연되고 있다는 것이다. 우리는 급격한 기후 변화, 해수면 상승, 생물다양성 감소 등 위협에 직면해 있다. 최근에는 지구의 평균 온도가 지난 12만 5천 년 가운데 가장 높은 17.1도를 기록하기도 했다. 과학자들은 이런 변화가 되돌릴 수 없는 수준에 이르렀으며, 우리가 신속히 대응해야 한다고 강조한다.

셋째, 지금의 SDGs는 AI의 등장으로 인해 발생하는 디지털 시대의 이슈들을 다루지 못한다는 점이다. 최근 10년 동안 기술의 발전은 우리 삶을 혁신적으로 바꿔왔다. 이제 우리는 물리적 실제 세계에서뿐만 아니라 동시에 디지털 세계에서도 생활하고 있다. 하지만 이러한 변화는 사이버 폭력, 온라인 성범죄, 데이터 침해, 가짜 뉴스 같은 다양한 문제를 초래하며, 이는 미래를 살아가야 할 아이들, 경제 그리고 사회 전체를 위협하고 있는 현실이다.

AI 시대의 지속가능성은 위에서 언급한 과제에 가장 효과적이고 시의적절하게 대응할 수 있는 능력을 발전시키는 것을 의미한다. 이는 곧 지속가능성에 대한 우리의 이해를 높이고, 새로운 제도적 틀을 지속가능성과 연계해 만들어야 한다는 것을 의미하기도 한다. 디지털 시대의 지속가능성을 위해 다음과 같은 세 가지 행동 방침을 제안한다.

첫째, AI를 개발하고 배포할 때 준수해야 할 제도적 제한을 명확히 해야 한다. 이 과정에서 AI가 무엇을 할 수 있는지, 장단점은 무엇인지, 예상되는 부작용을 최소화할 방법은 무엇인지에 대해 국내는 물론 전 세계적으로 오랜 시간 논의해야 할 것이다.

둘째, 지속가능목표 실현을 위해 인공지능 등 기술을 적극 활용해야 한다. AI는 현재 우리가 시행하고 있는 대책과 시스템의 단점을 파악하고 보다 야심찬 목표와 효과적인 전략을 수립하는 데 사용될 수 있다. 탄소 중립을 달성하기 위해 산업, 경제, 사회 전반에 걸쳐 근본적인 변화를 시작해야 할 때이다.

셋째, 물리적 세계와 디지털 세계 모두에서 지속가능성을 증진하고 이를 연결하는 방법을 찾아야 한다. 새로운 지속가능성 프레임워크는 두 세계의 상호 연결성을 고려해야 하며, 장기적인 지속가능성을 위해 두 세계가 어떻게 협력할 수 있는지에 대해 주목해야 한다.

장기적인 지속가능성을 위해 국가와 글로벌 경제는 새로운 패러다임을 도입해야 한다. ‘취하고, 만들고, 버리는’ 선형 경제에서 벗어나 순환 경제 모델로의 전환이 필요하며, 이는 환경친화적이고 지속 가능해야 한다. AI는 이 새로운 경제 프레임워크를 지원하는 핵심 도구로 작용해야 한다. 또한 기업의 ESG 프레임워크는 디지털 요소를 포함해 확장돼야 한다. 책임감 있는 디지털 사용을 포함한 지속가능성 전략은 2030년 지속가능발전목표 달성에 기여하며, AI의 사용을 모니터링하고 통제하는 국제기구 설립을 위한 국가 간 협력이 필요하다. 끝으로 혁신, 번영, 지속가능성이 함께하는 세상을 만들기 위해 우리 모두에게, 각자 주어진 역할과 책임이 있다는 것을 강조하고자 한다.

2. 주제 토론 1: The Demise of Community: How Digital Technologies could destroy democracy (김용학 전 연세대학교 총장)

인공지능 알고리즘의 결정은 과연 공정하고 정당한가
디지털 기술, 민주주의의 파괴와 공동체 분열 심화시켜

디지털 기술은 ‘양날의 검’이자 ‘대량 살상 수학 무기’다. 디지털 기술의 발전은 우리 사회를 위협하고 있으며 민주주의를 위협하고 공동체 붕괴를 이끌고 있기 때문이다. 디지털 기술은 ‘양날의 검’이자 디지털 기술이 급속도로 진보하며 대중의 관심을 끌기 위한 전쟁이 심화됐고, 진리가 아닌 이야기의 경쟁으로 변질되고 있다. 생성형 AI는 이야기를 만드는 능력을 갖추고 있으며, 진실이 아닌 이야기를 제공할 수 있다. 이에 따라 ‘필터 버블(Filter Bubble)’ 현상이 발생해 사람들을 분열시키며, 사회적 통합을 파괴한다.

사회학적 관점에서 기술의 개입은 사회적 통합을 해치고, 같은 이슈에 대해 사람들을 동일한 입장으로 분리하는 효과를 가져온다. 이 현상은 이른바 ‘정보 고치(Information Cocoons)’로 묘사되며, 사람들이 자신의 신념에 맞는 정보만 받아들여 다른 관점의 정보에 접근하지 못하게 되는 상태를 의미한다.

기술적으로 보면 이는 간단한 인공지능 알고리즘인 ‘대량 살상 수학 무기’로부터 발전한 생성형 인공지능이나 언어 모델에 의해 부가적으로 가속화될 수 있다. 이러한 인공지능은 단순히 사람들의 관심을 끄는 데 그치지 않고, 매력적인 이야기를 통해 설득하는 방식으로 작용하면서 사람들이 특정 정보에 고립되게 만들 수 있다. 이런 점에서 인공지능은 ‘에덴 동산’에서의 뱀처럼, 사람들을 특정 방향으로 유도하는 역할을 할 수 있다는 경고를 내포하고 있다.

3. 주제 토론 2: Digital Age and Sustainability: Digital Technology, AI and Education (이리나 보코바 전 UNESCO 사무총장)

AI가 일으키는 변화에 맞춰 교육 시스템 재창조 시급
교육 현장에 도입되는 AI에 대한 검증 필요

AI 혁명은 굉장히 빠른 속도로 사회 전반에서 일어나고 있으며, 이에 따라 인간의 역량과 경험을 재창조해야 한다는 필요성이 강조되고 있다. OECD는 AI로 인해 향후 10년간 11억 개의 일자리가 혁명적으로 바뀌리라 전망했다. 더불어 교육에서 AI 연관 시장은 크게 늘어날 것이며, 특히 고등교육에서 AI의 사용은 40% 이상 증가할 것으로 전망되고 있다.

AI의 발전은 고등교육 개혁의 필요성을 더욱 높이고 있다. AI의 적용은 교육에 많은 혜택을 가져올 수 있다, 개인 맞춤형 교육을 가능하게 될 것이고, 학제 간 통합 학습을 촉진하며, 교육 과정과 학생 참여를 개선하는 데 도움이 될 수 있을 것으로 기대된다.

그러나 AI는 동시에 감성 지능과 유연한 대응 능력을 약화시킬 수 있다. AI에 의존하게 되면서 비판적으로 사고하고, 평가하고, 스스로 결정하는 일도 줄어들 수 있다. 소통과 협업, 공감 능력, 리더십, 문제 해결 능력 등 인간의 상호작용 능력의 함양을 저해할 수 있다는 점에서 우려가 크다. 때문에 특히 교육 현장에서 AI를 활용하는 데 있어 견제를 위한 적절한 규제가 필요하다.

전 세계에는 아직도 기본적인 디지털 문해력과 인터넷 접근에 조차 어려움을 겪는 수십억 명의 사람들이 존재한다. 앞으로도 교육은 관계에 기반한 깊은 인간 행위의 영역에 있어야 한다. 인간의 역량을 기르는 투자 또한 기술에 대한 투자만큼 중요하다.

4. 주제 토론 3: Digital-ESG: ESG for AI (박유현 DQ연구소 대표)

디지털 시대에 맞는 새로운 디지털 ESG 개념 도입해야

인공지능은 점점 일반화되고 있으며, 일정 지점을 넘어서면 인간의 통제를 넘어서 인간을 통제할 수도 있다는 이야기가 있다.

인류는 인공지능에 대해 적극적으로 대비하지 않으면 이른바 ‘디지털 재앙’에 직면할 수 있다. 우리가 빠질 수 있는 디지털 재앙으로는 ▲아동 성적 착취 ▲대규모 실업과 불평등 심화 ▲가족의 가치 및 정체성 상실 ▲조작된 민주주의 ▲미디어 통제 ▲주권과 안보 상실 ▲인간 상호작용의 단절과 정신 건강 위기 ▲자유의지의 상실과 디지털 바이오 인간의 출현 ▲기술에 의한 환경 파괴 가속화 ▲AI에 의한 전쟁과 학살 등을 꼽을 수 있다.

이런 문제를 해결하기 위해 물리적 세계와 디지털 세계가 만나는 확장된 ‘피지털 현실(The Phygital Reality)'의 개념을 이해하고, 그 안에서 윤리적인 행동을 적용하는 것이 필요하다. 또한 새로운 지속가능 패러다임에 기반한 산업 주도의 이니셔티브가 중요하다.

지속가능한 경제 모델에서는 순환 원칙이 중요하지만, 자원의 유한성으로 인해 완전한 순환이 어렵다. 그러나 ‘교차 경제’라는 디지털 세계의 새로운 개념을 통해 쓰레기를 가치 있는 물질로 변환하고, 물리적 세계를 디지털로 전환함으로써 새로운 상품과 서비스, 부를 창출 할 수 있다.

이를 실현하기 위해 새로운 ESG 개념의 도입이 필요하다. 인간 중심의 기술을 활용하고, 디지털 전환 과정에서 발생할 수 있는 다양한 위험 요소를 식별하며, 교차 경제에서 성장 잠재력을 높일 방안을 모색해야 한다. 디지털 관련 재무 공시를 위한 태스크포스를 설립하고, 디지털 ESG의 주요 요소를 도출할 수 있다.

이러한 노력은 단지 사회적 책임(CSR)을 넘어, 기업의 미래 가치를 높이는 중요한 요소가 된다. 확장 현실의 창조자로서 기업, 인플루언서, 정책입안자 그리고 우리 모두가 함께 이를 실현해 나가야 한다.