Try it free in the sandbox · first FHIR call in 5 minutesFree · 30 synthetic patients · no card

LLM 애플리케이션 및 의료 데이터

의료 데이터와 대규모 언어 모델 사용: 컨텍스트 API 요청 및 응답, 클라우드 및 로컬 모델, 에이전트 시스템, 검색 대 컨텍스트, 출처가 있는 프롬프트.

의료 데이터를 사용하는 대규모 언어 모델 애플리케이션은 모델이 해결할 수 없는 한 가지 문제를 해결해야 합니다. 즉, 환자 기록의 어느 부분을 프롬프트에 넣을지, 그리고 모델이 사실과 메모를 구분할 수 있도록 어떻게 레이블을 지정할지입니다. Anpheros는 컨텍스트 API를 사용하여 데이터 측면에서 이 문제를 해결합니다. 환자, 작업 및 토큰 예산을 제공하면 환자의 HL7 FHIR R4 기록에서 관련 섹션을 반환하며, 각 항목에는 출처 레이블이 지정됩니다. 애플리케이션은 선택한 모델(호스팅 또는 로컬)에 해당 컨텍스트를 보냅니다.

FHIR 의료 데이터에 LLM을 연결하려면 어떻게 해야 하나요? 모델이 직접 액세스할 수 없는 FHIR 저장소에 기록을 보관합니다. Anpheros를 사용하면 환자의 HL7 FHIR R4 기록에서 예산이 책정되고 출처가 레이블링된 컨텍스트(POST /v1/context)를 요청하고, 선택한 모델의 프롬프트에 해당 컨텍스트를 넣습니다. 모델은 데이터베이스 또는 API 자격 증명을 받지 않으며, 애플리케이션이 환자의 동의 하에 호출을 수행합니다.

Anpheros는 모델을 실행하지 않으며, 어떤 모델 제공업체 또는 로컬 런타임과도 네이티브 통합을 제공하지 않습니다.

패턴

1. your app  ── POST /v1/context {patient, task, question, budget_tokens, format} ──►  Anpheros
2. Anpheros  ── sections + text + omitted + warnings + manifest_id ──────────────────►  your app
3. your app  ── system prompt + context + user question ─────────────────────────────►  the model
4. the model ── answer ───────────────────────────────────────────────────────────────►  your app
5. your app  ── optional write-back with author_type "ai" ──────────────────────────►  Anpheros

컨텍스트 요청

curl -X POST https://platform.anpheros.com/v1/context -H "Authorization: Bearer $TOKEN" -H 'content-type: application/json' -d '{
  "patient": "'$PID'",
  "task": "medication review before a cardiology visit",
  "question": "How did blood pressure evolve over the last 3 months?",
  "budget_tokens": 1500,
  "format": "text"
}'

컨텍스트 응답

• sections — 예를 들어 요약 카드, 상태, 약물, 알레르기, 예방 접종, 검사 결과, 주간 추세 및 치료 전/후 표시기가 있는 활력 징후, 증상, 타임라인 및 문서. 모든 항목에는 author_type 및 source이 포함됩니다.
• omitted — 예산에 맞지 않은 항목; 모델에 컨텍스트가 부분적임을 알립니다.
• warnings, provenance_note.
• text — format이 text일 때.
• manifest_id — 액세스 로그와 연결된 사용된 섹션 및 소스의 기록.
• ai_notes 섹션 — AI가 이전에 작성한 값은 해당 섹션에만 표시되며, 확인되지 않은 것으로 표시되고 임상 섹션과 혼합되지 않습니다.

클라우드 모델

OpenAI, Anthropic, Google, xAI 또는 다른 제공업체의 호스팅 모델을 사용하는 경우, 백엔드는 프롬프트에 컨텍스트를 포함시켜 제공업체의 API를 호출합니다. 컨텍스트는 귀하의 인프라를 벗어나 해당 제공업체로 전송되므로 다음 사항을 확인해야 합니다.

• 환자의 동의 및 개인정보 처리방침이 해당 제공업체로 데이터를 전송하는 것을 포함하는지 확인하십시오.
• 제공업체와 건강 데이터에 적합한 데이터 처리 계약을 체결하십시오.
• 작업에 필요한 데이터만 전송하십시오. 토큰 예산 및 명시적인 needs이 도움이 됩니다.

로컬 모델

Ollama 또는 다른 로컬 런타임을 통해 직접 실행하는 모델의 경우, 환자 데이터를 포함하는 유일한 네트워크 호출은 백엔드와 Anpheros 간의 호출이며, 프롬프트와 응답은 사용자의 인프라에 유지됩니다. 더 작은 로컬 모델은 더 작은 컨텍스트 창을 가지므로 budget_tokens이 낮아지고 format: "text"을 선호합니다.

에이전트 시스템

모델이 어떤 호출을 할지 결정할 때, 원시 자격 증명 대신 도구(컨텍스트, 검색, 타임라인)를 제공하고, 범위를 좁게 유지하며, 각 manifest_id를 답변 옆에 기록하십시오. AI 에이전트와 의료 데이터

컨텍스트 API 또는 자체 검색?

텍스트 임베딩 및 검색을 통한 검색 파이프라인은 비정형 노트에 유용합니다. 구조화된 의료 데이터의 경우 컨텍스트 API가 일반적으로 더 간단하고 안전합니다. 코딩된 FHIR 리소스에서 작동하고, 출처를 유지하며, 추세 및 치료 기간을 알고, 동의를 존중하고, 감사됩니다. 두 가지를 결합할 수도 있습니다. 예를 들어 Anpheros의 컨텍스트와 관리하는 문서의 검색된 구절을 결합할 수 있습니다.

출처를 포함한 프롬프트

프롬프트의 레이블을 유지하고 모델에 해당 레이블이 무엇을 의미하는지 설명합니다.

The context below comes from the patient's record. Each item is labelled with its author type
(patient, practitioner, device, import, derived) and source. Items under ai_notes were written by an
AI earlier and are not verified. Say which items your answer relies on. If the context is marked as
partial, say so. Do not give a diagnosis or change a treatment; suggest discussing it with a clinician.

관련 자료

• AI 헬스케어 애플리케이션
• AI 에이전트와 의료 데이터
• 구조화된 데이터로 의료 챗봇 구축하기
• 보안, 개인 정보 보호 및 데이터 상주

Try it free in the sandbox · first FHIR call in 5 minutesFree · 30 synthetic patients · no card