의료 분야에서 인공 지능(AI)의 안전과 윤리적 개발을 강화하기 위한 중요한 움직임의 일환으로, CVS Health(NYSE:CVS)를 포함한 28개 기업이 조 바이든 대통령이 제시한 자발적 약속을 준수하기로 약속했습니다. 이러한 약속은 AI 기술의 책임감 있는 개발과 배포를 보장하기 위해 마련되었습니다.
백악관은 오늘 의료 부문이 이러한 관행을 채택한 것은 이전에 책임감 있게 AI를 개발하기로 동의한 Google (NASDAQ:GOOGL), OpenAI 및 파트너 Microsoft (NASDAQ:MSFT)와 같은 15개 AI 업계 리더의 사례를 따르는 것이라고 발표했습니다.
바이든 행정부는 규제 조치가 여전히 기술 발전을 따라잡지 못하고 있는 상황에서 다양한 분야에서 AI의 영향력과 사용량이 증가하고 있는 가운데 AI에 대한 지침을 만들기 위해 적극적으로 노력하고 있습니다. 백악관은 AI가 신중하게 관리된다면 의료 시스템을 개선하고 환자, 의료 전문가, 병원 운영에 도움이 될 수 있는 엄청난 잠재력을 가지고 있다고 강조했습니다.
10월 30일, 바이든 대통령은 특히 국가 안보, 경제, 공중 보건 및 안전에 잠재적 위험을 초래할 수 있는 기술을 보유한 AI 시스템 개발자가 제품을 출시하기 전에 안전 테스트 결과를 정부에 공개하도록 의무화하는 행정 명령을 발표했습니다.
이 이니셔티브를 지지하는 의료 서비스 제공업체 중에는 오스카, 큐라이, 디베이트드 헬스, 듀크 헬스, 에모리 헬스케어, 웰스팬 헬스 등이 있습니다. 보건 결과를 개선하기 위해 AI의 잠재력을 활용하려면 경계를 늦추지 않는 것이 중요하다는 것이 정부의 분명한 입장입니다. 엄격한 테스트, 위험 완화, 사람의 감독 없이 임상 의사 결정에 사용되는 AI 도구는 비용이 많이 들거나 심지어 위험한 오류로 이어질 수 있습니다.
백악관 관계자는 적절한 감독 없이 AI가 진단할 경우, 특히 AI가 해당 인구를 대표하는 다양한 데이터로 훈련되지 않은 경우 성별이나 인종과 관련된 잠재적 편견이 발생할 수 있다고 경고하며 그 위험성에 대해 경고했습니다.
정부의 계획은 주로 사람의 검토나 편집 없이 AI가 생성한 콘텐츠와 상호작용할 때 사용자에게 이를 알리는 등 기업이 따라야 할 원칙을 제시하고 있습니다. 또한, 기업은 애플리케이션으로 인해 발생할 수 있는 잠재적 피해를 모니터링하고 해결하도록 권장됩니다.
이러한 약속에 서명함으로써 기업들은 건강 형평성을 증진하고, 치료에 대한 접근성을 확대하고, 의료 서비스를 더 저렴하게 만들고, 치료 결과를 개선하기 위해 치료를 조정하고, 임상의의 소진을 줄이고, 환자 경험을 개선하는 방식으로 AI를 개발할 것을 약속하고 있습니다.
이 기사는 AI의 지원으로 생성되고 번역되었으며 편집자에 의해 검토되었습니다. 자세한 내용은 우리의 이용 약관을 참조하십시오.