[11-02] (교원 연구 소개) AI 기술의 신뢰성 속성 분석: 금융산업을 중심으로

국가정책대학원 강태원 교수가 SSCI 저널인 Technology Analysis & Strategic Management에 게재한 <Measuring ethics level of technological topics using phylogenetic tree>을 소개합니다.

서지 정보: 

 https://www.tandfonline.com/doi/full/10.1080/09537325.2023.2209214

주요 내용:

AI 기술 개발과 이를 활용한 제품·서비스로 적용 과정에서 AI 신뢰성 관련 이슈가 발생하고 있습니다. 예를 들어, 개인정보 침해 및 혐오 표현 등으로 인한 기본권 침해 요소, 안전사고 등의 기술적 불안정성, 책임성 결여 등으로 AI 기술의 사회적 문제가 대두되고 있습니다. 그러므로, 산업분야별 주요 신뢰성 속성들을 식별하고, 이에 기반한 평가‧검증 체계 구축 필요합니다.

본 연구에서는 AI 기술이 주요하게 적용‧활용되는 금융산업 분야를 선정하고, 금융산업에서 주요하게 적용되는 AI 기술과 기술별 신뢰성 속성 도출을 목적으로 합니다. 금융 AI 관련 논문 데이터를 가지고 진화계통도, 텍스트마이닝, TF-IDF 등 빅데이터 기법을 적용하여 분석을 진행하였습니다. 분석 결과, 금융산업에는 딥러닝 기술, 머신러닝 기술, 의사결정 기술 관련 기술이 주로 적용되고 있습니다. 신뢰성 속성의 경우에는 딥러닝 기술은 설명가능성(explainability) 및 성능보장성(performance guarantees), 머신러닝 기술은 프라이버시(privacy) 및 보안(security), 의사결정 기술은 인간 가치(human rights) 및 규범성(normality)이 가장 중요하게 논의되고 있음을 확인하였다.

신기술 발전이 무조건 사회에 긍정적인 변화를 초래하지는 않습니다. 부정적인 면을 최소화하고, 긍정적인 면을 최대화하기 위해서는 다양한 관점에서 기술과 사회변화를 이해하고, 이를 바탕으로 조절지원이 필요합니다. 특히, 본 연구결과에서 제시한 것처럼 AI 기술 발전과 적용․활용에 있어서 신뢰성 확보를 위한 노력이 지속적으로 이뤄져야 합니다. 추후 다양한 산업분야에서의 중요한 신뢰성 속성들을 식별하고, 이에 기반하여 평가‧검증 체계 구축을 제안하였습니다. 

저자 소개:

강태원 교수는 국가정책대학원 과학기술정책전공 주임교수입니다. 서울대학교 동물생명공학전공을 졸업하고, 동 대학원에서 기술경영경제정책을 전공해 경제학 박사 학위를 취득하였습니다. 이후 서울대학교 공학연구원, Sant'Anna School of Advanced Studies (이탈리아)를 거쳐 현재 우리 대학원에서 과학기술정책. 기술경제, 정책분석/평가, 연구방법론 등을 중심으로 강의하고 있습니다. 데이터 기반 혁신정책 연구실(Data-driven Innovation Policy Lab)을 운영하며, 더 나은 정책(Better Policies)을 제안하기 위해 정량, 정성 기반 정책연구를 진행하고 있습니다.