![[사진=더컨버세이션]](/news/photo/202402/149185_142881_1858.png)
생성형 AI의 사용이 문화적 다양성과 포용성에 더 큰 도전을 제시할 수 있다는 우려가 높아지고 있다.
교육계에 AI 통합의 어려움을 겪고 있는 상황에서, 생성형 AI의 사용이 문화적 다양성 및 포용성 측면에서 더 큰 도전을 받아나갈 수 밖에 없다는 것이다.
맥쿼리 대학 타미카 워렐 교수는 ‘더컨버세이션(The conversation)’을 통해 이러한 어려움을 겪고 있는 상황에서 문화적으로 반응하는 교육 인력의 필요성을 강조했다.
최근 생성적 AI 기술이 급속도로 발전하며 교육 분야에 깊숙이 침투하고 있다. 챗 GPT와 같은 도구가 교육 현장에서 대화를 주도하고 있다.
하지만 학문적 무결성에 대한 우려와 함께 이 기술을 어떻게 적절하게 도입하고 관리할 것인지에 대한 고려가 필요하다는 전문가들의 목소리가 높아지고 있다.
타미카 교수는 “토착 콘텐츠 요건을 충족하기 위해 고군분투하는 교사들이 생성형 AI를 활용할 수 있다”며 “그러나 이러한 도구의 사용은 실제로는 득보다 실이 많을 수 있다는 우려가 있다”고 말했다.
이는 교육에서 AI를 사용할 때 문화적 다양성과 포용성을 유지하는 방법에 대한 신중한 고려가 필요함을 의미하고 있다.
AI가 문화에 미치는 영향, 우려와 위협
일반적으로 커뮤니티는 생성형 AI에 대한 여러 가지 우려를 제기하고 있다. 이러한 우려에는 AI 기술이 원주민과 그들의 지식에 미칠 수 있는 위험이 포함된다.
특히, AI로 생성된 예술은 일반 사람들의 소득, 예술 및 문화 지식에 심각한 위협이 될 수 있다.
생성형 AI 플랫폼 미드저니를 사용해 만들어진 이미지는 '일반적인 스타일'의 예술과 콘텐츠 제작이 쉬워질 수 있음을 보여준다고 전문가들은 지적했다. 이는 일반적인 문화 및 지적 재산권에 대한 위협이 될 수 있다는 것이다.
AI가 주로 서구 지식의 데이터 세트로 학습됨에 따라, 일반적인 데이터 주권에 대한 우려도 커지고 있다.
타미카 교수는 “일반 사람들의 커뮤니티, 민족, 토지 및 자원에 관한 데이터의 수집, 소유 및 적용을 통제할 권리와 관련된 문제를 포함하고 있다”고 말했다.
또한, 생성형 AI는 커뮤니티에 해를 끼치는 잘못된 정보를 영구화할 위험이 있다고 전문가들은 주장했다.
특정 캠페인 중 일반적인 '반대' 유권자의 가짜 AI 생성 이미지가 소셜 미디어에 게시된 사례가 이를 입증하고 있다는 것이다.
데이터 센터의 환경 비용으로 인한 국가에 미칠 수 있는 잠재적 영향도 중요한 고려사항이다. 이는 생성형 AI 도구가 늘어나면서 해결해야 할 중요한 문제로 부각되고 있다.
교육계의 생성형 AI, 커뮤니티에 대한 우려와 도전
호주 교육 및 학교 리더십 연구소의 2022년 보고서에 따르면, 식민지배의 유산으로 인해 커뮤니티가 자신의 문화, 정체성, 역사, 언어에 대한 접근성이 약화됐다.
루딘 심스-비숍 미국 교육학자의 말처럼, 학생들은 교실에서 '창문과 거울'을 필요로 한다. 학생들은 커리큘럼과 사용되는 기술에 자신을 반영해야 한다고 전문가들은 말했다.
그러나 생성형 AI의 사용은 일반적인 가치와 지식 체계에 의미 있는 참여 대신 부정확한 정보를 퍼뜨릴 위험이 있다고 경고됐다.
전문가들은 생성형 AI가 자신들의 문화와 지식에 미칠 수 있는 위험에 대해 우려하고 있다.
AI로 생성된 예술은 일반 사람들의 소득과 문화 지식에 심각한 위협이 될 수 있으며, AI가 주로 서구 지식의 데이터 세트로 학습되기 때문에 일반적인 데이터 주권에 대한 우려가 제기되고 있다.
지난해 호주 정부의 경우, 학교에서의 생성형 AI 사용을 위한 프레임워크를 발표했다. 이 프레임워크는 일반적인 문화 및 지적 재산권을 존중해야 한다는 필요성을 확인시켰다.
그러나 타미카 교수는 “교사들이 이를 적절하게 수행할 수 있도록 하는 데는 더 많은 작업이 필요하다”며 “현재로서는 생성형 AI와 일반적인 콘텐츠의 교실 내 포함 사이의 교차점을 탐구하는 연구가 부족하다”고 말했다.
생성형 AI와 다른 형태의 AI는 일반적인 커뮤니티에 혜택을 줄 수 있는 광범위한 잠재력을 가지고 있다.
많은 일반 사람들이 이미 이 기술을 활용하고 있다. 예를 들어, 가상 여행, 체험적 학습, 연구 참여 등이 있다.
타미카 교수는 “AI를 위한 공간을 마련하기 위해서는 개발부터 사용에 이르기까지 모든 단계에서 일반적인 커뮤니티의 포용을 보장하기 위한 정책 및 전문 기관의 노력이 필요하다”고 말했다.
[위키리크스한국=유 진 기자]
yoojin@wikileaks-kr.org
