산업 > IT

'이루다' 논란 커지자…AI윤리협회 "서비스 중단하고 개선 촉구"

등록 2021-01-11 17:34:21

기사본문

이메일 보내기
* 받는 사람
메세지

이메일 보내기

* 받는 사람

메세지

이메일 보내기
* 보내는 사람
보내는 내용	'이루다' 논란 커지자…AI윤리협회 "서비스 중단하고 개선 촉구" [서울=뉴시스] 이재은 기자 = 한국인공지능윤리협회는 성희롱과 차별·혐오 논란이 일어난 AI챗봇 ‘이루다'에 대해 서비스 중단을 요청했다. 한국인공지능협회는 11일 성명서를 내고 "인공지능 윤리 가이드라인을 지키지 못하고 출시한 AI 챗봇 서비스에 대해 서비스 중단을 요청하며, 추후 AI 윤리 가이드라인을 확인하고 적용하고 개선한 후 재출시하기를 촉구한다"고 밝혔다. 협회는 "인공지능에 학습되는 빅데이터는 신뢰할 수 있고, 편향적이지 않으며, 합법적이어야 한다. 신뢰할 수 없고, 편향적이며, 불법적인 데이터로 만들어진 AI 제품과서비스는 인간에게 잘못된 정보와 인식을 심어주는 악영향을 미치기 때문"이라며 "이번 AI 챗봇 사례에서는 데이터의 정제과정과 선별작업이 제대로 이루어지지 않아 AI 챗봇이 동성애와 장애인, 임산부 등에 대한 편향된 결과를 그대로 노출했다"고 지적했다. 이어 "인공지능 제품과 서비스는 출시 전 충분히 반복된 품질검사를 거치고, 중립적인 기관을 통한 검수와 검증을 거친 후 출시해야 하지만 이면 AI 챗복 사례에서는 그렇지 못한 것으로 보인다"고 비판했다. 또 개인정보 유출 관련에 대해 "개인의 카카오톡 대화내용과 그 속에 담긴 개인정보를 AI챗봇을 학습시키는 데이터로 활용한다는 명확한 고지가 없었고, 개인은 카카오톡 대화내용의 제출에 동의했을지라도, 카카오톡 대화내용 안의 대화 상대방들은 동의하지 않았기 때문에 대화 상대방의 대화 내용과 개인정보를 그대로 AI 학습에 이용한 것은 분명한 문제의 소지가 있다"고 밝혔다. 아울러 협회는 소비자도 인공지능 제품과 서비스를 올바른 방법으로 사용해야 한다고 강조했다. 협회 측은 "이번 AI 챗봇에 대한 사용자의 성적도구화, 성희롱 등의 문제는 법적인 문제는 없더라도 윤리적인 문제는 분명히 있다"면서 "AI 챗봇이든, 로봇이든, 캐릭터든 그 대상은 논외로 하더라도, 성적도구화하고 학대하는 행위 자체가 잘못된 것이기 때문에, 그러한 행위를 AI 챗봇에 죄의식 없이 하게 되면 결국 인간성 상실로 이어져 실제 인간에게도 그러한 행위를 할 가능성이 커지기 때문"이라고 우려했다. 그러면서 "AI 기술은 인간의 편익과 행복을 위한 기술이지만 잘못 개발되거나 사용될 때의 인간에게 미치는 위험성과 역작용이 막대할 수 있으므로 이와 같은 노력에 본 협회를 비롯해 정부, 기업, 학계, 시민 등 모든 관련 주체들이 적극 함께해 주기를 요청한다"고 촉구했다. ◎공감언론 뉴시스 [email protected] https://weekly.newsis.com

이메일 보내기

* 보내는 사람

보내는 내용

'이루다' 논란 커지자…AI윤리협회 "서비스 중단하고 개선 촉구" [서울=뉴시스] 이재은 기자 = 한국인공지능윤리협회는 성희롱과 차별·혐오 논란이 일어난 AI챗봇 ‘이루다'에 대해 서비스 중단을 요청했다. 한국인공지능협회는 11일 성명서를 내고 "인공지능 윤리 가이드라인을 지키지 못하고 출시한 AI 챗봇 서비스에 대해 서비스 중단을 요청하며, 추후 AI 윤리 가이드라인을 확인하고 적용하고 개선한 후 재출시하기를 촉구한다"고 밝혔다. 협회는 "인공지능에 학습되는 빅데이터는 신뢰할 수 있고, 편향적이지 않으며, 합법적이어야 한다. 신뢰할 수 없고, 편향적이며, 불법적인 데이터로 만들어진 AI 제품과서비스는 인간에게 잘못된 정보와 인식을 심어주는 악영향을 미치기 때문"이라며 "이번 AI 챗봇 사례에서는 데이터의 정제과정과 선별작업이 제대로 이루어지지 않아 AI 챗봇이 동성애와 장애인, 임산부 등에 대한 편향된 결과를 그대로 노출했다"고 지적했다. 이어 "인공지능 제품과 서비스는 출시 전 충분히 반복된 품질검사를 거치고, 중립적인 기관을 통한 검수와 검증을 거친 후 출시해야 하지만 이면 AI 챗복 사례에서는 그렇지 못한 것으로 보인다"고 비판했다. 또 개인정보 유출 관련에 대해 "개인의 카카오톡 대화내용과 그 속에 담긴 개인정보를 AI챗봇을 학습시키는 데이터로 활용한다는 명확한 고지가 없었고, 개인은 카카오톡 대화내용의 제출에 동의했을지라도, 카카오톡 대화내용 안의 대화 상대방들은 동의하지 않았기 때문에 대화 상대방의 대화 내용과 개인정보를 그대로 AI 학습에 이용한 것은 분명한 문제의 소지가 있다"고 밝혔다. 아울러 협회는 소비자도 인공지능 제품과 서비스를 올바른 방법으로 사용해야 한다고 강조했다. 협회 측은 "이번 AI 챗봇에 대한 사용자의 성적도구화, 성희롱 등의 문제는 법적인 문제는 없더라도 윤리적인 문제는 분명히 있다"면서 "AI 챗봇이든, 로봇이든, 캐릭터든 그 대상은 논외로 하더라도, 성적도구화하고 학대하는 행위 자체가 잘못된 것이기 때문에, 그러한 행위를 AI 챗봇에 죄의식 없이 하게 되면 결국 인간성 상실로 이어져 실제 인간에게도 그러한 행위를 할 가능성이 커지기 때문"이라고 우려했다. 그러면서 "AI 기술은 인간의 편익과 행복을 위한 기술이지만 잘못 개발되거나 사용될 때의 인간에게 미치는 위험성과 역작용이 막대할 수 있으므로 이와 같은 노력에 본 협회를 비롯해 정부, 기업, 학계, 시민 등 모든 관련 주체들이 적극 함께해 주기를 요청한다"고 촉구했다. ◎공감언론 뉴시스 [email protected]

https://weekly.newsis.com