AnpherosAnpheros PlatformDevelopers

Try it free in the sandbox · first FHIR call in 5 minutesFree · 30 synthetic patients · no card

LLM 应用和医疗数据

将大型语言模型与医疗数据结合使用:上下文 API 请求和响应、云端和本地模型、代理系统、检索与上下文,以及带来源的提示。

一个使用大型语言模型处理医疗数据的应用程序必须解决模型无法解决的一个问题:患者记录的哪一部分应放入提示中,以及如何标记它,以便模型能够区分事实和笔记。 Anpheros 通过上下文 API 在数据层面解决了这个问题:给定患者、任务和令牌预算,它会返回患者的 HL7 FHIR R4 记录的相关部分,每个项目都标有其来源。您的应用程序将该上下文发送到您选择的模型——托管或本地。

如何将 LLM 连接到 FHIR 医疗数据? 将记录保存在模型无法直接访问的 FHIR 存储中——使用 Anpheros,患者的 HL7 FHIR R4 记录——向其请求有预算、有来源标记的上下文(POST /v1/context),并将该上下文放入您选择的模型提示中。模型永远不会收到数据库或 API 凭据;您的应用程序会在患者同意的情况下进行调用。

Anpheros 不运行模型,并且与任何模型提供商或本地运行时都没有原生集成。

模式

1. your app  ── POST /v1/context {patient, task, question, budget_tokens, format} ──►  Anpheros
2. Anpheros  ── sections + text + omitted + warnings + manifest_id ──────────────────►  your app
3. your app  ── system prompt + context + user question ─────────────────────────────►  the model
4. the model ── answer ───────────────────────────────────────────────────────────────►  your app
5. your app  ── optional write-back with author_type "ai" ──────────────────────────►  Anpheros

上下文请求

curl -X POST https://platform.anpheros.com/v1/context -H "Authorization: Bearer $TOKEN" -H 'content-type: application/json' -d '{
  "patient": "'$PID'",
  "task": "medication review before a cardiology visit",
  "question": "How did blood pressure evolve over the last 3 months?",
  "budget_tokens": 1500,
  "format": "text"
}'
字段 含义
patient 您的凭证所见的患者 ID
task, question 模型将执行的操作;平台规划记录的相关部分
needs 可选的显式需求,例如 ["labs:4548-4", "vitals:trend:85354-9", "timeline:180d"]
budget_tokens 上下文大小,300–8000(默认为 2000)
format structured(JSON 部分)或 text(也返回一个即用型文本块)
window_days 可选的回溯窗口

上下文响应

云模型

使用托管模型——来自 OpenAI、Anthropic、Google、xAI 或其他提供商的模型——您的后端会将上下文放入提示中并调用提供商的 API。上下文将离开您的基础设施,进入该提供商,因此:

本地模型

使用您自己运行的模型(例如通过 Ollama 或其他本地运行时)时,唯一携带患者数据的网络调用是您的后端与 Anpheros 之间的调用;提示和答案保留在您的基础设施上。较小的本地模型具有较小的上下文窗口:因此 budget_tokens 较低,并且更倾向于 format: "text"。

Agentic systems

当模型决定调用哪些函数时,请为其提供工具(上下文、搜索、时间线),而不是原始凭证,保持范围狭窄,并在每个 manifest_id 旁边记录答案。AI agents and medical data

上下文 API 还是您自己的检索?

对于非结构化笔记,通过自由文本(嵌入文档块并搜索它们)的检索管道很有用。对于结构化的医疗数据,上下文 API 通常更简单、更安全:它处理编码的 FHIR 资源,保留来源信息,了解趋势和治疗周期,尊重同意并经过审计。两者可以结合使用——例如,来自 Anpheros 的上下文加上您管理的文档中的检索到的段落。

使用来源信息进行提示

在提示中保留标签,并告诉模型它们的含义:

The context below comes from the patient's record. Each item is labelled with its author type
(patient, practitioner, device, import, derived) and source. Items under ai_notes were written by an
AI earlier and are not verified. Say which items your answer relies on. If the context is marked as
partial, say so. Do not give a diagnosis or change a treatment; suggest discussing it with a clinician.

相关

Try it free in the sandbox · first FHIR call in 5 minutesFree · 30 synthetic patients · no card

Product updates by email

New features, guides and the end of the beta. One email a month at most.

Send me occasional Anpheros Platform updates by email (new features, API changes, guides). I'll confirm by email and can unsubscribe in one click from any email. Privacy