마이크로소프트의 코파일럿 헬스는 인공지능을 활용하여 건강 데이터를 분석하지만, 과연 안전할까요?

Copilot Health가 출시되어 의료 기록, 실험실 결과 및 웨어러블 데이터를 분석합니다.
의사 진료를 대체하는 것이 아니라 보조하기 위해 설계되었습니다. AI가 생성한 인사이트는 임상적으로 평가 및 분류됩니다.
민감한 의료 데이터에 대한 접근은 오용 및 개인정보 침해 위험을 초래할 수 있습니다.

마이크로소프트는 인공지능(AI) 비서 인 코파일럿 헬스(Copilot Health)를 출시했습니다 . 이 기능은 의료 기록, 검사 결과, 웨어러블 기기 등을 AI에 연결하여 사용자가 자신의 건강 정보를 더 쉽게 이해할 수 있도록 돕습니다. 마이크로소프트는 이 도구를 복잡한 의료 데이터를 간소화하는 방법으로 홍보하고 있지만, AI 시스템에 개인 건강 기록에 대한 접근 권한을 부여하는 것은 개인정보 보호에 대한 우려를 불러일으킬 수도 있습니다.

이 기능은 단계적으로 출시될 예정이며, 사용자는 대기자 명단에 등록하여 먼저 사용해 볼 수 있습니다.

건강 데이터를 설명하도록 설계된 AI

Copilot Health를 사용하면 챗봇 내에 건강 데이터에 대한 질문을 할 수 있는 전용 공간을 만들 수 있습니다. 이 시스템은 의료 기록을 분석하고, 검사 결과를 해석하며, 웨어러블 기기에서 패턴을 식별할 수 있습니다.

마이크로소프트에 따르면 , 코파일럿 헬스는 헬스엑스를 통해 미국 내 5만 개 이상의 병원 및 의료기관의 의료 기록, 펑션(Function)의 실험실 검사 결과, 그리고 애플 헬스, 오우라, 핏빗을 포함한 50개 이상의 웨어러블 기기 데이터에 연결할 수 있습니다.

연결되면 음성 비서는 복잡한 검사 결과를 설명하고, 의료 정보를 요약하거나, 수면 패턴이나 활동 수준과 같은 추세를 강조 표시할 수 있습니다.

이 플랫폼은 실시간 의료 제공자 디렉토리에 연결하여 의료 서비스 제공자를 찾는 데 도움을 줄 수 있습니다. 전문 분야, 위치, 사용 언어 및 보험 적용 여부를 기준으로 의사를 검색할 수 있습니다.

마이크로소프트는 이 도구가 환자들이 진료 예약을 더 잘 준비할 수 있도록 돕기 위해 설계되었다고 밝혔습니다. 코파일럿 헬스는 의사를 대체하는 것이 아닙니다.

마이크로소프트의 보다 폭넓은 AI 기반 헬스케어 비전

회사 측은 코파일럿 헬스가 인공지능을 의료 분야에 적용하려는 더 광범위한 노력의 일환이라고 밝혔습니다. 마이크로소프트 연구원들은 복잡한 의료 사례를 분석하고 임상 의사 결정을 지원하는 것을 목표로 하는 마이크로소프트 AI 진단 오케스트레이터 와 같은 프로젝트도 진행하고 있습니다.

마이크로소프트는 장기적인 목표를 일차 진료 의사의 일반적인 지식과 의료 전문가의 심층적인 전문 지식을 결합하는 시스템을 구축하는 것이라고 설명합니다.

하지만 회사 측은 건강 관련 분석 정보는 임상 평가를 거친 후에만 제공될 것이며, 인공지능(AI)에 의해 생성된 답변인 경우 이를 명확히 표시할 것이라고 밝혔습니다.

건강 데이터 및 인공지능 관련 개인정보 보호 문제

마이크로소프트의 안전장치에도 불구하고, AI 챗봇을 개인 건강 정보에 연결하는 것은 심각한 개인정보 보호 문제를 야기합니다.

건강 데이터는 사용자가 공유할 수 있는 가장 민감한 개인 정보 중 하나입니다. AI 비서에게 의료 기록, 웨어러블 기기 데이터 및 검사 결과에 대한 접근 권한을 부여하는 것은 정보가 오용되거나 유출될 경우 새로운 위험을 초래할 수 있습니다.

소프트웨어 대기업인 애플은 코파일럿 헬스(Copilot Health)에 추가적인 보호 기능이 포함되어 있다고 밝혔습니다. 이러한 보호 기능에는 서비스를 통해 저장 및 전송되는 데이터 암호화, 일반 코파일럿 채팅과의 별도 저장, 언제든지 건강 데이터 소스 연결을 끊을 수 있는 제어 기능, 개인 정보 삭제 기능 등이 있습니다. 또한, 코파일럿 헬스는 모델 학습에 사용되지 않는다고 명시했습니다.

하지만 더 많은 기술 기업들이 의료 정보를 활용하는 AI 도구를 개발함에 따라 이러한 시스템이 개인 건강 데이터를 처리하는 방식에 대한 우려가 커질 가능성이 높습니다.

마이크로소프트의 코파일럿 헬스는 인공지능을 활용하여 건강 데이터를 분석하지만, 과연 안전할까요?