콘텐츠로 건너뛰기

책임있는 AI가 환자 결과를 어떻게 향상시키는가?

병원과 의료 시스템은 인공 지능이 환자의 결과를 개선하기 위해 제공하는 많은 새로운 기회와 책임을 가지고 AI 지원 제품을 제공하는 의무와 균형을 이루는 방법을 이해해야합니다.

데이터 프라이버시와 병행하여 윤리적 및 규제 고려 사항도 있습니다. 그리고 오늘날 제품에서 적극적으로 사용되는 소위 “책임있는 AI”의 원칙이 있습니다.

PointClickCare의 AI 및 데이터 플랫폼 담당 수석 이사인 리사자렛은 교육 세션에서 이러한 모든 문제에 대해 설명합니다. HIMSS24 글로벌 컨퍼런스 & 전시회 「환자의 결과를 개선하기 위한 책임 있는 AI」라고 제목을 붙였다.

투명성과 공정성

AI의 뛰어난 가능성은 투명성과 공정성을 가지고 임상의와 간병인의 일을 강화하는 방식으로 AI를 활용하는 것처럼 큰 의무를 수반한다고 자렛 씨는 말했다.

“AI의 사용 기회를 검토할 때 초기 계획부터 고객 사용, 지속적인 관리 및 측정에 이르기까지 윤리에 따라 평가하고 설계해야 합니다.”라고 그녀는 설명했습니다. “헬스케어는 책임 있는 AI의 핵심 가치를 통합해야 하며, AI 기능을 직접 사용하거나 AI 기능의 영향을 받는 환자, 케어 환경, 간병인, 임상의의 다양한 생태계 고려해야합니다.

“사용을 성공시키고 긍정적 인 효과를 얻으려면 임상의와 사용자와 적극적으로 파트너십을 맺고 인공 지능이 일상 생활 활동에 어떤 영향을 미치는지에 대한 질문과 피드백을 배우십시오. 중요합니다.”라고 그녀는 계속했습니다. “의료 IT 리더는 효과적인 배포를 지원하기 위해 라이프 사이클 전반에 걸쳐 중요한 질문에 확실하게 대답 할 수 있도록 책임있는 AI 원칙이 사용자의 생태계 및 의료 제공 환경 전반에 걸쳐 작동하는지 이해해야 합니다.”

AI에 관한 법규제가 잇달아 등장업계 그룹은 임상 의사 결정 지원에서 책임있는 AI 원칙을 개발하고 공유합니다.

필요한 책임있는 AI 연습

“필요한 책임있는 AI 실천이 어떻게 되어야 하는가에 대해서는 임상의와 전달 환경 등에 다양한 시점이 존재한다”고 자렛 씨는 말했다. “알고리즘 투명성에 대한 최근의 HHS ONC HT1 규정은 의료에서 ​​AI 사용에 대한보다 자세한 지침을 제공합니다. 불리는 프레임워크의 개요를 설명했습니다.

“이것은 의사 결정을 지원하는 데 사용되는 알고리즘에 대한 일관된 기준 정보를 확보하기위한 실용적이고 의미있는 프레임 워크입니다.”라고 그녀는 계속했다. “PointClickCare가 사용하는 접근 방식은 이러한 원칙을 기반으로 하며, 사용자가 하는 임상의와 조기 및 자주 협력하여 의문과 우려를 제품에 통합합니다.”

이것은 예측이 긍정적으로 받아들여지는 것을 보장하고 고객의 신뢰를 구축하는 방법을 이해하는 데 중요하다고 그녀는 덧붙였다.

“예를 들어, Pacman과 Performance Insights 모두에서 유효한 예측 복귀 알고리즘을 개발하면 사례 관리자, 간호사 및 의료 책임자에 이르기까지 사용자가 콘텐츠를 검토하고 알고리즘 예측을 비교하여 정확도를 측정합니다. 를 도출하기 위한 인적 기준선을 확립했습니다.

“모든 것에 적용되는 다목적 방법은 없습니다. 기본 유스 케이스와 에지 유스 케이스에는 자체 고려 사항이 적용되었으며 다른 페르소나는 다양한 관점과 우려 사항을 가지고 있습니다.”라고 그녀는 계속했다. 책임있는 AI의 가치는 알고리즘 설계, 교육 및 배포의 출발점입니다.

데이터 보안 및 개인 정보

“설명성”과 투명성 병원이나 의료 시스템의 사용자로부터의 신뢰를 확보하기 위해서는 데이터의 보안과 프라이버시와 함께 알고리즘의 개발과 평가에 사용되는 데이터의 보호가 필요하다고 덧붙였다.

학습 참가자가 자렛의 세션을 떠나야 할 중요한 점은 IT 리더에게 시스템 자체의 품질과 마찬가지로 AI 구동 또는 대응 시스템에서 책임있는 AI를 평가하는 것이 중요하다는 것입니다. 그리고 그는 말했다.

“임상의이든 간병인이든, 사용자를 대신하여 알고리즘 설명 가능성, 알고리즘 개발 방법, 제품이 지속적인 모니터링 및 관리에 피드백과 적응을 어떻게 통합하는지에 대해 찾아 질문합니다. 필요합니다.”라고 설명했습니다. “특히 병원 및 의료 시스템이 AI 지원 도구의 포트폴리오를 확대하고 있는데, 이러한 질문과 이러한 질문에 대답하기 위한 제품의 책임 AI에 대한 정보의 가용성은 평가에서 매우 중요합니다.

“의료 IT 리더는 책임있는 AI의 시각화 된 공급망을 확보하는 데 필수적이며 신뢰할 수있는 보안 소프트웨어 공급망의 증거만큼 중요하다고 생각해야합니다.” 계속했습니다. “커튼 뒤에 무엇이 있는지를 사용자 수준에서 이해하고 받아들이는 것이 효과적인 도입과 사용의 전제 조건입니다. 의료 IT 리더 사용자, 그 유스 케이스, 그리고 사용자가 신뢰로 받아들일지 아니면 받아들이지 않을지에 대한 임계값을 알고 있습니다. “

AI를 통한 변화 기회

또 다른 측면에서, 임상의는 AI의 변화 기회를 파악하고 임상 의사 결정 지원에서 책임있는 AI 수준의 기준을 높이는 데 도움이되는 두 가지 기본 사항이라고 자렛은 HIMSS24 세션에서 의 추가 주제에 대해 언급했습니다.

“PointClickCare의 예측 알고리즘에 대한 경험은 동일한 페르소나 내에서 받아 들일 수 있거나 회의적인 의견이 널리 존재하고, 확고한 기준선을 만들고 변화에 따라 검토하고 조정할 수있는 충분한 볼륨을 통합하는 것입니다. “이 필수적인 것입니다”라고 그녀는 말했다.

“제품 개발자의 이러한 적극적인 프로세스는 의료 IT 리더가 AI 지원 솔루션을 평가할 때 주목해야 할 것 중 하나입니다.”라고 그녀는 계속했다. “AI 제품 개발 전반에 걸쳐 임상 협력과 직접 관여함으로써만, 우리는 별에 손을 뻗어 망원경으로 차단할 수 없는 시야를 확보할 수 있습니다.”

세션은 3월 12일 오전 10시 30분부터 11시 30분까지 올랜도의 HIMSS24의 W208C실에서 개최될 예정입니다. 상세 및 등록.

LinkedIn에서 Bill의 HIT 언론을 팔로우하십시오. 빌 시위키
그에게 이메일을 보냅니다. bsiwicki@himss.org
Healthcare IT News는 HIMSS Media의 출판물입니다.

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다