推理桥：本地和云 LLM 访问的浏览器桥接
推理桥，由samsamskies（SamSamskies）构建，是一个Chrome扩展，实施实验性的推理提供者API，以连接网络应用和LLM。它注入一个标准化的window.inference对象，以便页面可以通过浏览器直接请求AI响应，支持通过window.inference.request()进行流式文本传输，并路由到OpenAI，使用存储的密钥或本地Ollama实例。面向网络开发人员、AI研究人员和注重隐私的用户，它将API密钥保存在扩展内部，并提供每个源的权限控制，以便更安全地访问模型。
它如何向网页暴露标准 AI 接口
注入浏览器端 API，通过提供一个可以直接调用的 window.inference 对象。该扩展支持通过 window.inference.request() 进行流式文本聊天，因此网页应用可以在令牌到达时消费它们。请求在任何网络活动之前在扩展内部进行验证，这防止了网页转发任意有效负载。这种方法使网页界面能够作为 LLM 客户端，而无需在页面脚本中嵌入提供者凭据。
它如何分离凭据并控制访问
每个来源的权限提示要求用户为每个提供者和模型选择允许、拒绝或记住访问，从而为每个网站提供细粒度控制。API 密钥存储在扩展的服务工作线程中，因此页面脚本永远看不到凭据。该扩展还会去除 Origin 和 Referer 头，以简化本地连接，并限制注入到安全的顶层上下文，以减少暴露于不安全页面的风险。
本地模型和云密钥的交汇点
统一的 API 表面支持本地 Ollama 服务器和自带密钥的 OpenAI 选项，因此开发者可以与任一提供者进行原型设计。该扩展处理头部去除和本地路由，以绕过本地推理的常见 CORS 障碍，消除了测试期间需要额外代理的需求。流式支持和单一接口使原型集成在不同提供者类型之间表现一致。
开发者必须规划的实际限制
作为实验性参考构建，该扩展限制注入到顶层框架，并且不在 file: 页面或子框架中操作，因此依赖嵌入框架的集成需要替代设计。它仅针对基于 Chromium 的浏览器，开发者将其定位为推理提供者 API 提案的官方参考实现，因此团队应将该工具视为起点，而不是完成的生产组件。
一个务实的、以开发者为中心的桥梁，具有实验性的权衡
该扩展是一个务实的选择，适合接受实验工具和集成工作的开发者和研究人员，用于原型设计浏览器到LLM的工作流程。预计需要调整应用程序代码，并在受控环境中运行测试。作为一个实用的建议，将记住的权限限制在开发主机上，并在测试期间将模型端点保持在隔离网络上。该工具作为实施提议的浏览器API的工作参考。
