감정 인공지능(AI)은 생물학적 신호를 활용해 사람의 감정을 감지하고 예측하는 기술이다. 일상적인 상황부터 직장, 채용, 의료 분야에 이르기까지 다양하게 사용되고 있다.

특히 콜센터, 금융, 은행, 간호 및 간병 등 다양한 산업 분야에서 이미 활용되고 있다.

한 연구자는 "미국 내 대기업의 50% 이상이 감정 AI를 사용, 직원의 내부 상태를 판단하고 있다"고 말했다.

하지만, 학자들은 감정 AI의 과학적 타당성과 감정 이론에 대한 의존도에 대해 우려를 제기한다. 한 연구자는 "우리의 연구는 근로자들이 직장에서 감정 AI 기술의 사용에 대해 어떻게 생각하는지에 대한 중요한 통찰력을 제공한다"고 밝혔다.

연구에 따르면, 근로자들은 이 기술이 프라이버시를 침해하고, 잘못된 추론을 낳으며, 편향된 고용 결정에 사용될 수 있다는 점을 걱정한다.

한 연구의 참가자는 "내가 분석되고 있다는 사실이 정신 건강에 부정적인 영향을 미칠 수 있다”고 말했다.

감정 AI의 사용은 근로자의 웰빙을 저하시킬 수 있는 반대 효과를 초래할 수도 있다는 지적이다.

근로자들 사이에서 높아지는 감정 AI에 대한 우려: 최근 연구에서 드러난 혼합된 반응

근로자의 감정 AI에 대한 우려가 높아지고 있다는 최근의 연구 결과가 나왔다. 직장에서의 감정 인공지능(AI) 기술의 활용 방향을 파악하기 위해 직장에서의 감정 AI에 대한 발명가들의 개념을 조사했다.

그들은 직장에서 감정 AI 기술을 제안한 특허 출원을 분석했다. 이 특허들은 직원 복지 평가 및 지원, 직장 안전 보장, 생산성 향상, 승진, 해고, 업무 할당 등의 의사 결정 지원을 포함한 다양한 이점을 주장했다.

'근로자들은 이러한 기술을 어떻게 받아들일까'라는 질문에 답하기 위해 섄리 코비테, 캣 렘미히, 틸리 일라나 로젠버그와 함께 미국 인구의 일부를 대표하는 설문조사를 실시했다.

특히 유색인종, 성전환자, 비이성애자, 정신질환을 앓는 사람들을 포함하는 오버샘플을 진행했다. 이 그룹은 감정 AI로 인한 피해를 더 많이 경험할 수 있기 때문이다.

이 연구에는 289명의 대표 표본과 106명의 오버샘플이 참여했다. 응답자 중 32%가 직장에서 현재 또는 예상되는 감정 AI 사용으로 혜택을 경험하지 않을 것으로 예상했다.

일부 근로자들은 직장에서 감정 AI 사용의 잠재적 이점, 예를 들어 웰빙 지원 및 직장 안전 강화와 같은 것들을 인정했지만, 많은 우려도 표현됐다. 이들은 웰빙과 사생활 침해, 업무 성과 및 고용 상태에 대한 부정적 영향, 편견 및 정신 건강 문제에 대한 낙인 등을 걱정했다.

참가자 중 51%는 프라이버시에 대한 우려를 표현했고, 36%는 고용주가 잘못된 추론을 액면 그대로 받아들일 수 있다고 지적했으며, 33%는 감정 AI가 만든 추론이 부당한 고용 결정에 사용될 수 있다고 우려했다.

직장 내 프라이버시와 정신 건강의 새로운 도전

근로자들 사이에서 감정 인공지능(AI)의 활용에 대한 우려가 커지고 있다는 연구에서 직장에서 감정 AI의 사용이 근로자의 웰빙을 향상시키려는 목표와 달리 실제로는 프라이버시 침해로 인해 웰빙이 저하될 수 있다는 점을 지적했다.

여러 질환을 앓고 있는 한 참가자는 "내가 분석되고 있다는 인식이 아이러니하게도 정신 건강에 부정적인 영향을 미칠 수 있다"고 말했다.

이러한 피드백은 감정 AI 기술의 이면에 있는 중대한 문제들을 드러낸다.

정신 건강 문제를 가진 다른 참가자는 감정 감시가 자신의 직장 안정성을 위협할 수 있다고 우려했다.

그는 이어 "회사가 나를 더 이상 적합하지 않다고 판단해 해고할 수 있으며, 능력 부족으로 판단해 급여 인상을 하지 않거나 충분한 업무를 하지 않는다고 생각할 수도 있다"고 말했다.

연구 참가자들은 감정 AI의 도입이 고용주와 근로자 사이의 이미 존재하는 긴장을 심화시킬 수 있다고 지적했다.

한 응답자는 "고용주가 이미 직원에 대한 통제권을 가지고 있어 이 정보의 사용에 대한 견제가 거의 없다. 이 맥락에서 직원의 '동의'는 대부분 환상일 뿐이다"고 말했다.

참가자들은 또한 감정 AI의 기술적 부정확성이 근로자에 대한 잘못된 인상을 심어줄 수 있으며, 유색인종, 여성, 트랜스젠더에 대한 편견과 낙인을 만들어낼 수 있다고 우려했다.

한 참가자는 "어떤 표정이 '폭력적으로 보이는지'는 누가 결정하며, 얼굴 표정만 보고 어떻게 사람을 위협적으로 판단할 수 있나, 시스템은 얼굴을 읽을 수 있어도 마음은 읽을 수 없다. 이것이 직장 내 소수자에게 어떻게 파괴적일 수 있는지 이해할 수 없다"고 말했다.

마지막으로, 참가자들은 감정 AI 사용이 자신들에게 추가적인 감정 노동을 부과할 수 있다고 언급했다.

"사무실에 혼자 있을 때조차 많은 에너지를 마스킹에 쏟아야 하며, 이로 인해 매우 산만하고 비생산적이 될 수 있다"고 한 참가자가 말했다.

이러한 발언들은 감정 AI 기술이 근로자에게 미치는 다양한 영향에 대한 심층적인 이해를 제공한다.

감정 AI, 직장 내 감시의 새로운 지평인가

이 연구 결과는 감정 AI가 직장 내 근로자가 겪는 기존의 문제를 심화시킨다는 것을 보여준다. 이는 감정 AI를 지지하는 이들의 주장에도 불구하고 나타난 현상이다.

감정 AI가 편향성 문제를 해결하고 원하는 대로 작동한다 하더라도, 근로자가 경험하는 추가적인 감정 노동과 프라이버시 침해 문제는 여전히 남는다.

이러한 기술이 실제로 주장하는 바를 측정하지 못하거나 편향된 경우, 사람들은 유효하고 신뢰할 수 있는 것으로 간주되는 알고리즘에 의존하게 되지만, 그 알고리즘이 실제로는 그렇지 않을 때 오해를 받을 위험이 있다.

한 연구 참가자는 "알고리즘에 의해 오독될 가능성을 줄이기 위해 노력하거나 알고리즘에 호의적으로 읽힐 수 있는 감정적 표현을 하기 위해 노력해야 할 것"이라고 말했다.

이것은 근로자에게 추가적인 부담을 줄 뿐만 아니라, 자신의 감정을 인위적으로 조정하도록 강요한다.

이러한 시스템은 파놉티콘과 같은 기술로 작동하며, 프라이버시를 침해하고 상시 감시당하는 듯한 느낌을 준다.

이는 감정 AI의 도입이 과연 직장에서 그만한 가치가 있는지에 대한 의문이 남는다고 전문가들은 시사했다.

[위키리크스한국=유 진 기자]

yoojin@wikileaks-kr.org