지난 10월 말 APEC 참석을 위해 AI산업의 선두주자 엔비디아의 젠슨황이 한국에 방문해 대통령과 재벌 총수들을 만나고 돌아갔습니다. 떠들썩한 소식과 함께 주가가 오르고, 코스피 전체는 4,000을 넘겼다는 소식에 정말 AI 산업에 대한 열광이 대단하구나 싶습니다. 물론 이 열기는 불과 일주일 만에 소위 ‘AI거품론’과 함께 엔비디아와 미국 주식을 비롯하여 한국의 삼성전자, SK하이닉스 등 AI 관련 주가가 사그라드는 결과까지 동반하는 한 사이클이 완성될 것입니다. 그리고 이 사이클의 반복이 앞으로의 수순일 테지요. 그래서일까요? 저는 아무래도 AI라는 도구의 진짜 가치를 모른다는 생각이 드는 요즘입니다.

최근 디지털정의네트워크(구 진보넷)와 빠띠에서 주최한 <생성형 AI 도구, 어떻게 쓰고 있나요? 시민사회/비영리/소셜섹터의 생성형 AI 활용 이야기, 함께 나눠요>라는 워크숍에 다녀왔습니다. 활동가들은 AI를 어떻게 쓰고 있는지부터 AI가 개인정보나 활동의 자료들을 유출할 우려, AI의 늘어나는 에너지소비나 무차별 학습으로 인한 디스토피아적 미래에 대한 걱정까지 꺼내놓고 이야기하는 자리였는데요. 이미 많은 활동가들이 생각보다 적극적으로 활용하고 있고, 그래서 발생하는 현실적인 문제들이 있다는 사실을 알게 되었습니다. 그런데 저의 의문은 ‘이것이 과연 AI의 문제가 맞을까’ 하는 점이었습니다.

AI를 활용하기 위해 이용자가 제공하는 정보-데이터를 ‘학습’한 뒤 정보가 유출되는 것에 대한 우려가 실은 AI 이전에 클라우드 서비스의 정보집적의 문제와 크게 다르지 않겠다는 생각이 들었습니다. 구글드라이브나 드롭박스 같은 클라우드 서비스에 개인정보나 활동 관련 자료를 업로드 시키면서 걱정해야 하는 기업의 데이터 관리 정책에 대한 우려와 얼마나 다를까 하는 것이죠.

그다음은 ‘할루시네이션’이라는 생성형 AI의 거짓 정보를 분별해내지 못하고 최종 결과물을 도출하는 위험에 관한 문제였는데요. 특히 단체에 새로 들어오는 활동가나 경험이 적은 활동가들이 AI를 활용하여 결과물을 만들며 AI의 거짓 정보를 걸러내지 못해 문제가 되는 경우를 많이 언급했습니다. 이미 법률의 영역에서는 한 변호사가 AI가 꾸며낸 판례를 걸러내지 못하고 실제 재판에서 논거로 삼으며 문제가 되기도 했었죠. 사실 이런 문제도 AI의 문제가 아니라 활동가 교육을 비롯하여 재생산의 문제와 훨씬 밀접하게 연관하여 조직이 고민해야 하는 문제라고 생각이 들더라고요.

AI 활용을 권장하며 활동가의 능률을 올릴 것을 압박하는 조직 내 문제도 언급되었는데요. 같이 이야기 나눈 활동가들은 AI보단 조직 내 민주주의의 문제라는 점을 분명히 하면서, 그 문제는 차치하더라도 ‘AI 활용 그 자체로 능률을 올리지 않는다’는 의견을 모아내기도 어렵지 않았습니다. 좋은 결과를 만들기 위해 할루시네이션을 걸러내는 능력을 포함하여 적절한 명령(프롬프트)을 입력하는 일까지 결국 해당 활동-작업을 온전히 이해하는 사람이 AI를 활용해서도 좋은 결과물을 만든다는 것이지요. 이는 AI 활용 이전에 이미 해당 업무에 대한 파악과 교육 등 활동가 재생산의 과정 없이 AI만으로 능률이 오를 수 없다는 의미가 되겠지요.

이 외에도 AI를 활용하는 과정에서 발생하는 조직 내 문제적 상황에 관한 이야기는 더 많았지만, 대부분 조직 내 민주주의-돌봄-재생산의 문제와 분리되지 않는 이야기였습니다. AI 자체가 내재한 문제라기보다는 AI라는 새로운 도구를 마주하는 과정에서 드러난 ‘우리’의 문제를 살피는 과정이 필요하다는 점을 확인할 수 있는 자리였던 것이죠. 그래서 다시 처음으로 돌아오게 됩니다. 저같이 AI와 거리가 있는 사람에게 AI란 실생활에서 도대체 어떤 활용도가 있는 도구인가 싶어지는 것이죠. 제 얼굴 사진을 일본 애니메이션 톤으로 바꿔주는 정도가 그나마 쓸모였는데, 그마저도 막는다고 하더군요. 그러면 정말 유용함을 느낄 만큼 잘 사용하려면 AI 사용을 위한 훈련과 학습을 거쳐 새로운 능력을 갖추어야 하는 걸까 생각하게 됩니다.

AI는 실제로 인간을 대신해 문제를 해결(또는 노동)하는 도구처럼 여겨지지만, 실제로는 다른 도구들처럼 상황과 필요에 맞게 활용할 때만 그 유용성을 느낄 수 있는 도구로 접근하면 조금은 AI열광에 대한 착시도 거두어지는 것 같습니다. AI는 어떻게 사용해야 유용할지에 대한 고민 자체를 안해도 인간의 능률을 올려줄 것만 같은 느낌을 주기에 시도해보는 것인데 결국 다시 이용자에게 질문을 떠올리게 한다면 꼭 써야 하나 싶은 생각도 들지만요. 결국 지금 필요한 질문은 이 세계에 AI가 침투하는 속도는 이용자의 필요보다 빠르게 보급되고 있으니 언제 어떻게 활용하는 것이 적합한 것인지에 대한 이용자로서의 답을 찾는 것 아닐까요. 이번에 참여한 워크숍을 통해서 저에게 남은 질문은 AI를 유용하게 사용할 수 있는 때와 장소를 분별해가며 앞으로 펼쳐지는 상황들을 잘 살피자는 것이었습니다.

남는 고민은 역시 기후위기와 에너지소비의 문제가 아닐까 싶습니다. 개인의 필요에 따른 AI 활용보다 앞서 모든 분야에서 AI를 사용하도록 공격적으로 AI 관련 자본이 일상을 침투하는 현재의 방식은 결국 에너지 소비량 자체를 늘리는 방식이 될 테니까요. 온라인 검색엔진이 AI를 자동으로 탑재하고, 쇼핑몰이 AI를 활용해 제품을 추천하는 등 이용자의 편익이라고 하기엔 그 필요성이 분명하게 확인되지 않는 분야에서조차 AI를 도입해 AI 사용을 친숙하게 만드는 과정이 진행 중인 상황은 우려가 될 수밖에 없는 것이죠. 이는 결국 국내 AI 시대의 고속도로를 구축하겠다는 대통령과 정부정책과도 연결될 수밖에 없을 텐데요. 수출-제조업 중심의 한국 경제의 위기를 AI 산업으로 옮겨보려는 구상 속에 데이터센터, 반도체 클러스터, 핵발전소 추진 등 에너지 사용량 증대와 기후위기 심화의 과정으로 연결되는 문제니까요.

솔직하게 고백하면 워크숍을 마치며 이 문제는 결국 운동이 마주해야 하는 몫이 되겠구나 싶은 마음이 들면서 조금은 압도되고, 다 연결된 위기라는 생각이 들더군요. 하지만 AI도 거품이 있다는 마당에 이 위기 또한 너무 거대하게만 바라보지 않고 압도당하기보다는 어차피 마주해야하는 문제라고 생각하며 차근히 문제를 살펴보는 것부터 고민해나가려 합니다. 특히 이름을 바꾸고 새롭게 출발한 디지털정의네트워크와 같이 앞서 논의를 이어가는 단체의 고민과 제안을 잘 경청하며 말이죠. 디지털정의네트워크 활동가 분들께 혹시 부담을 드리게 되는 것은 아닐까 싶은 마음도 들지만, 부담보단 저의 리스펙과 샤라웃으로 이해해주시길 바라며 활동가의 편지는 마무리해보겠습니다.