인공지능(Al)을 이용한 연구를 하고자 하십니까? 그전에 꼭 알아야 할 윤리적 기준이 여기에 있습니다.

2020년 12월 23일 대통령 직속 4차산업혁명위원회는 ‘사람이 중심이 되는 AI 윤리기준’을 확정 발표하였습니다.

우리 나라에서도 인공지능(Artificial Intelligence, AI)에 대한 관심이 점차 높아지고 있습니다. 특히 2016년 세간의 관심이었던 이세돌 기사와 구글의 알파고의 바둑 대결은 얼마나 인공지능이 우리의 현실 세상 속에 가까이 왔는지를 보여 주는 단적인 예입니다.

[인공지능의 생명과학 분야에서의 활용 방향]

‘BIG 10’ Ways Artificial Intelligence is Transforming Life Sciences 에서 우리는 인공지능이 생명과학 분야의 발전에 어떻게 기여할 수 있는 지에 대해서 이야기 했습니다.

첫째, 환자 개개인을 위한 맞춤형 치료를 가능하게 해줍니다. 현재 의료계가 환자를 치료할 때 사용하는 전략은 환자 개개인의 특성과 상황을 고려한 것이라기 보다는 일반론적으로 접근하는 방법을 사용하는 것입니다. 한 사이즈의 신발이 모든 사람들의 발에 맞을 수 없듯이 전체 실험군의 대표 값(예를 들어서 평균이나 중간값)을 기준을 고려해서 나온 치료방법이 각각의 유전적 환경적 신체적 상황이 다른 환자들 모두에게 최고의 효과를 가져오거나 부작용을 줄이기는 어렵습니다. 이 문제점을 해결하기 위해 인공지능을 이용해서 좀더 개개인의 특성을 고려한 치료방법을 찾는 길이 열릴 것이라는 것입니다.

둘째, 인공지능의 빠른 연산 능력과 정보처리 능력은 방대한 자료를 조사하고 분석하는 데 도움을 주어서 약의 개발에 있어서 그 후보군을 선택하고 추가 분석을 하는 것에 큰 도움이 될 것입니다.

셋째, 치료방법이나 신약을 시장에 소개하기까지 10년 이상의 시간과 몇 조원 이상의 투자가 필요로 하곤 합니다. 인공지능은 의료체계나 신약개발과정의 효율성을 높여주어 소요되던 시간과 돈을 절약할 수 있도록 도와줄 것입니다.

넷째, 인공지능은 임상시험을 계획하고 실행하는 데 큰 도움을 줄 수 있습니다. 이상적인 실험 샘플 수의 계산은 물론이거니와 물리적 거리의 한계를 넘어서 원격으로 참가자들의 임상시험의 참여를 가능케할 수 있습니다. 또한 인공지능은 임상시험에 소요되는 비용을 줄이고 부정확한 자료 생성을 줄이는 역할을 하게 됩니다.

다섯째, 질병의 진단에 있어서 인공지능은 많은 도움을 줄 수 있습니다. 현재의 의료체계에서 불충분 의료기록이나 질병의 연구가 잘못된 정보를 제공하게 되고 의사가 오진을 하게 만들 수 있습니다. 환자의 진단하는 데 있어서 인공지능을 통해서 잘못된 정보를 걸러내고 좀더 정확하고 다양한 정보와 합리적인 과정을 도입함으로 오진의 경우를 줄이고 정확한 진단을 이끌어 낼 수 있습니다.

여섯째, 인공지능을 통해서 로봇 수술을 발전 시킬 수 있습니다. 현재 사용되고 있는 다빈치(da Vinci) 로봇 수술로는 할 수 없는 범위까지도 인공지능의 도움으로 수술의 정확성과 지속성과 균일성을 갖고 접근할 수 있을 것입니다.

일곱째, 인공지능은 제약회사의 상품 생산이나 운영에 있어서 많은 도움이 될 수 있습니다. 그 예로 약품의 수요와 공급을 예상하여 그 균형이 잘 조절할 수 있도록 도와 주게 될 것입니다. 현재도 아마존에서는 물류 네트워크를 인공지능을 이용해서 관리하고 있습니다.

여덟째, 과학 저널의 질 향상과 표절 근절을 위해서도 인공지능은 잘 활용될 수 있습니다.

아홉째, 인공지능은 엑스레이나 MRI 또는 CT 영상을 판독하는 데 있어서 육안에 의지해서 의사가 판단하는 것보다 좀더 정확하고 자세한 부분까지 살펴볼 수 있도록 도와줄 것입니다.

열 번째로 의료서비스를 받기 어려운 지역이나 상황에서 인공지능은 원격진료나 응급조치를 취할 수 있게 도와줄 것입니다.

[인공지능 활용을 위한 윤리적 기준]

그러나 인공지능을 잘 활용하는 데 있어서 해결해야 할 문제점들이 아직 많이 있습니다. 예를 들어서 방대한 자료들이 있어도 일관되지 않은 형식이나 자료의 질이 보장되지 않기 때문에 이를 처리하기에는 한계가 있습니다. Pistoia Alliance의 조사에 따르면 응답자의 44 퍼센트가 기술의 부족에서, 52 퍼센트가 자료의 접근성의 제약을 인공지능을 활용하는 데 있어서 가장 큰 장벽이라고 답변했습니다. 이에 더하여 고려해야 하는 것이 인공지능의 윤리 기준입니다. 생명과학 연구를 할 때 생명윤리위원회의 심사를 받아서 허가를 받은 후 그 실험을 할 수 있는 것처럼, 인공지능을 활용한 연구를 하는 데 있어서도 그 윤리적 판단과 감시가 필요하다는 것을 인식하고 이에 합당한 연구계획 및 수행을 진행해야 합니다.

Nexdigm의 “AI in Healthcare: Addressing Ethics and Regulations” 에서 인공지능의 윤리적 체크포인트를 확인하는데 필요한 큰 개념들을 확인할 수 있습니다. “Ethics is knowing the difference between what you have a right to do and what is right to do”라는 말은 윤리에 대한 정의를 생각하기에 좋은 말입니다. 윤리란 무엇인가를 할 수 있는 권리와 어떻게 하는 것이 옳은 가의 차이를 아는 것이라 것은 쉬운 듯 하지만 어렵습니다. 흔히들 살면서 필요한 윤리 도덕은 유치원 다닐 때 다 배운다고들 하듯이 바르게 산다는 것이 어린아이도 이해할 수 있는 쉬운 것 같지만 현실 속에서 그것을 시기 적절하게 적용하는 것이 개인이나 집단의 욕구와 욕망으로 왜곡되거나 충돌됨으로 인해서 좌절되는 것을 많이 볼 수 있습니다. 그렇기에 연구를 위한 인공지능의 활용에 있어서도 구체적이고 실제적인 윤리의 기준과 그 가이드 라인이 확립이 되어 그 연구의 방향성을 제시해주고 이끌어 주어야 합니다. 인공지능의 생명과학 및 의학에서의 올바른 활용을 위한 윤리적 기준은 다음과 같은 개념에서 접근해야 합니다.

첫째, 자료의 접근과 사용에 있어 사생활 보호 및 안전성에 관한 것입니다. 자료의 공정한 사용은 중요합니다. 법적 안전망과 형식의 보호 없이 자료에 접근하거나 자료가 사용된다면 해킹이나 정보 도용 또는 무단 사용에 노출 됩니다. 한국이나 대만에서 COVID-19의 전염 경로를 파악하고 전염 예방을 위해서 개인들의 위치추적을 하는 것은 효율적인 질병 관리를 위해서 도움이 되는 반면 개인의 사생활 침해라는 논란이 될 수 있습니다.

둘째로 자료에 대한 권리에 관한 문제입니다. 누가 수집된 자료에 대한 권리를 주장하고 관리 감독해야 하는 가를 판별하는 것은 쉬운 문제가 아닙니다. 이에 더하여 어떤 정보를 어떻게 그리고 어떤 조건하에서 사용할 수 있는 가를 따지는 것도 중요합니다. 예를 들어서 유럽에서 논의 중이고 발표하고 있는 General Data Protection Regulation(GDPR)은 이와 같은 문제들을 다루고 있습니다.

셋째, 공정성과 포괄성에 관한 문제입니다. 인공지능을 활용하기 위해서 왜곡되지 않은 많은 자료를 포괄적으로 사용할 수 있어야 하며 그로 인한 혜택은 공정하게 사회의 모든 사람들에게 돌아가야 합니다. 그러나 보통 의료정보의 경우 접근성의 제약과 대상의 한계가 있어서 쉽게 왜곡된 정보만이 인공지능을 활용하는 데 사용될 수 있습니다. 예를 들어 백인 남성 환자들의 정보만을 이용해서 인공지능이 구축한 진단 방법은 여자 또는 백인 이외의 인종의 사람들에게는 왜곡된 결과를 보여 주게 됩니다.

넷째, 신뢰와 책임의 문제가 고려되어야 합니다. 생명과학연구에 인공지능이 활용될 때 그 사용 방법이나 이용된 자료와 그 혜택이 환자와 의사와 이에 관련된 사람들 모두에게 투명하게 법에 근거해서 알 수 있어야 하며 그 의미를 쉽게 이해할 수 있도록 해야 합니다. ‘얼마나 좋은 것이 충분히 좋다고 얘기할 수 있는 지’에 대한 질문에 답할 수 있도록 이러한 문제들에 관해서 충분한 논의와 다양한 계층과 집단의 관심이 필요합니다.

[우리나라의 인공지능 윤리기준]

앞에서 말한 대한민국에서 새로이 제정한 ‘사람이 중심이 되는 AI 윤리기준’에서 인공지능을 개발하고 활용할 때 인간의 존엄성, 사회의 공공선, 기술의 합목적성 등 3대 원칙을 하며 이를 실천하기 위해서 1) 인권 보장, 2) 프라이버시 보호, 3) 다양성 존중, 4) 침해금지, 5) 공공성, 6) 연대성, 7) 데이터 관리, 8) 책임성, 9) 안정성, 10) 투명성 등의 10대 핵심요건이 충족되어야 한다고 제시하였습니다. 구체적인 실행방법이나 기준 제시는 좀더 논의가 되어야 할 것으로 보입니다.

[인공지능의 활용을 위해서 생각할 점]

구글, 애플, 삼성, 아마존 등과 같은 대기업들이 5G 네트워크와 전기자동차 등과 연동하여 인공지능 사업에 많은 중점을 두고 활용하고 있는 것을 볼 때 현재 뿐만 아니라 미래에서 인공지능의 역할과 기능은 중요한 자리를 차지하게 될 것입니다. 인공지능은 하나의 도구입니다. 컴퓨터의 발달과 더불어 사람의 지능을 흉내를 내고 빠른 연산과 딥러닝을 통한 학습을 기억하고 결론을 도출하고 다른 장비들과 연동하여 많은 일을 할 수 있는 것이 인공지능입니다. 인류가 핵에너지를 사용할 수 있게 되면서 인류의 번영과 존망 둘 다에 스스로가 손으로 만지기 시작했습니다. 인공지능은 실종자나 범인을 찾을 수 있기도 하지만 우리의 삶에 늘 곁에 있는 휴대폰을 통해서 인공지능은 우리를 조지오웰의 1984년처럼 언제든지 사생활 마저도 간섭과 감시의 대상으로 바뀔 수도 있습니다. 의료정보나 의과학 연구에서도 인공지능은 대량의 정보를 빠르게 통합적으로 관리하고 분석할 수 있게 하는 훌륭한 도구가 될 수 있지만 잘못된 정보의 사용이나 잘못된 인공지능의 사용은 언제든지 큰 문제가 될 수 있음을 명심해야 합니다. 연구자, 의사, 환자 등 관련된 사람들이 연구의 계획에서부터 실행과 그 후 과정에서 윤리적 접근을 놓치지 않는다면 인공지능은 좀더 나은 그리고 좀더 바른 세상을 이루는 데 기여하는 좋은 도구가 될 것입니다.