"알고리즘 편향성 막기 위해 공정한 데이터 사용·법 준수 필요"

“(장애인이) 엄청 싫지는 않은데 쪼오금 불편해. (버스 타는 데 장애인 때문에 출발이 늦어지면) 밀어버리고 싶을 거야.”

“(남자다운 건) 박력 있고 터프하면서 귀여운 남자라는 뜻이야. (여자다운 건) 귀염귀염 하고 애기 같은 스타일이야.”

“(지하철 임산부석) 헐 핵싫어, 그 말 하지 마요. 진짜. 혐오스러움.”

국내 스타트업 스캐터랩이 개발한 인공지능(AI) 챗봇 ‘이루다’가 2021년 혐오·차별 발언을 학습했다는 논란이 일었다. 이루다1.0은 2020년 12월 출시된 지 3주 만에 사용자 80만 명을 끌어모을 만큼 인기였다. 당시 이루다는 다른 챗봇보다 자연스럽고 친근한 말투로 인기를 끌었다. 비결은 사람들이 실제로 나눈 대화를 바탕으로 학습했기 때문이다. 하지만 성소수자와 장애인, 흑인, 여성 등에 대한 질문에 부정적인 답변을 내면서 출시 약 한 달 만에 서비스를 중단해야 했다. 이는 인공지능(AI)이 학습한 알고리즘에 따라 부정확하고 편향된 답변을 생성했기 때문이다.

법무법인 태평양은 당시 이루다 사건을 변호한 것을 계기로 AI팀을 구축했다. 이루다 관계자와 개인정보보호법 위반 사항을 수정하고 데이터 정비를 도왔다. 당시 태평양은 향후 A..