AI는 인간에게 새로운 기회인 걸까, 새로운 위험인 걸까. 논쟁은 여전히 진행중이다.

‘WIPO 기술 동향 2021: 보조 기술 보고서’는 10억 명이 넘는 사람들이 보조 기술을 필요로 하고 2050년에는 그 수가 두 배가 될 것이기 때문에 AI 기술이 인간을 도울 중요한 기술이라고 주장한다. 그러나 유럽장애인포럼(European Disability Forum)의 설문조사에 따르면, 응답자의 50%가 AI 기술이 차별을 유발할 수 있다고 우려하고 있다.

보스턴 어린이 병원의 AAC 프로그램 프로그램 책임자인 전문가인 존 코스텔로(John Costello)와 아이리스본드 테크놀로지(IRISBOND technology)의 CEO인 에두아르도 자우레기(Eduardo Jáuregui)는 인권이 존중되는 한 이익이 위험보다 크다고 주장한다. 그들은 더 나은 세상을 만들기 위한 5가지 AI 애플리케이션을 선정하고 그 기회 요소와 위험 요소에 대해 지적했다.

① 인공 시력

인공 시력은 물체나 사람을 식별할 수 있고, 이미지 설명을 소리내어 읽기(표현 포함), 휠체어 제어, 자동화된 시각화 또는 장면 설명, 어휘 캡처 도구, 유용한 레이블 및 프롬프트, 웹 상호 작용 또는 환경 제어 등이 가능하다.

반면 사진과 안면 인식에 관한 프라이버시나 안면 표준으로 인한 차별이 발생할 위험이 있다.

② 지식 표현 및 추론

자연어 대화와 분류 시스템, 진단 엔진 및 예측 시스템이 가능하다. 또 청각 장애인을 위해 소리를 시각적 표현으로 변환할 수 있으며, 캡션 및 실시간 번역 생성 또는 보완대체 의사 소통(Augmentative and Alternative Communication, AAC) 평가, 사람과 사물과 장소에 레이블 지정 및 시스템은 개인적인 이야기를 만드는 데 도움이 되는 간단한 문구를 생성할 수 있다.

하지만 평가 및 예측의 편향으로 인해 차별이 발생할 수 있다.

③ 자연어 처리

자연어 처리는 단어 및 메시지 예측이 가능하고, 자동 내레이션과 언어 생성, 구음 장애의 음성 인식, 실시간 비표준 음성 번역, 의사 소통 스타일과 어휘 및 각 사람의 특정 요구에 적응할 수 있다.

그러나 공식 혹은 비공식 환경에서 부적절한 어휘 선택으로 자율성과 개성이 손상될 위험이 있다.

④ 머신 러닝

단어 예측이나 음성 합성의 개인화가 가능하고, 대체 액세스 시스템의 조정이나 보정, 대화에 어조를 추가하여 의사 소통 및 감성을 향상시킬 수 있다.

반면, 역사적 차별이나 편견과 데이터의 다양성이 부족한 점이 위험 요소로 꼽힌다.

⑤ 로보틱스

소셜 로봇, 보조 학습, 지능형 엔진 이동성, 원격 작업이 로봇의 기회 요소인 반면, 인간 상호 작용과 대화의 감소, 장애인들의 고립은 위험 요소로 지적된다.