人工智能政策

VertexHub do Brasil Ltda（下称"ChatSense"、"我们"或"平台"） 秉持透明和负责任使用人工智能（AI）技术的承诺，特发布本政策， 以说明所使用的 AI 系统、其用途、局限性、安全防护机制， 以及平台与客户之间的责任分担。

1. 人工智能系统说明

1.1 语言模型提供商（LLM）

ChatSense 使用以下大型语言模型提供商：

• Google Gemini 2.5 Flash / Pro — 主要模型，用于生成回复、情感分析、意图分类、会话摘要、主题提取以及图像分析（Vision）
• OpenAI — 仅用于为语义搜索系统（RAG）生成向量嵌入（text-embedding）

1.2 AI 功能

平台提供以下基于人工智能的功能：

• 自动回复（机器人流水线） — 由 AI 生成的回复，用于自动化客户服务
• 回复建议 — 在客户服务过程中为人工坐席提供的上下文相关建议
• 会话摘要 — 自动生成每次会话内容和要点的摘要
• 情感分析 — 自动对客户情感进行分类（正面、中性、负面）
• 自动标签 — 按相关主题自动对会话进行分类
• 主题提取 — 识别每次互动中讨论的主要议题
• 音频转写（STT） — 将语音消息转换为文本，用于处理和展示
• 图像分析（Vision） — 解读客户发送图片的内容
• 文本转语音（TTS） — 根据文本回复生成音频

1.3 RAG（检索增强生成）

ChatSense 使用检索增强生成（RAG）系统来提高 AI 回复的准确性。 客户的知识库通过 PostgreSQL 的 pgvector 扩展，以 1536 维向量嵌入进行索引。 在客户服务过程中，系统执行语义搜索，从知识库中定位相关内容片段， 并将其作为上下文注入发送给语言模型的提示词（prompt）中。

1.4 机器人流水线

每次 AI 交互的处理流程遵循以下顺序：

• 意图分类 — 识别所收到消息中客户的意图
• RAG 检索 — 对知识库进行语义搜索，查找相关内容
• 会话历史 — 纳入此前消息的上下文
• 防护规则注入 — 应用已配置的安全防护机制
• LLM 调用 — 将完整提示词提交给语言模型
• 回复送达 — 通过相应渠道将生成的回复送达客户

1.5 升级转接系统

AI 能够检测何时需要人工介入。系统可识别升级关键词、过高的复杂度或客户不满情绪， 并自动将会话转接给人工坐席，同时附带可配置的转接提示消息。

2. 欧盟《人工智能法案》（第 2024/1689 号条例）下的分类

2.1 系统分类

根据欧盟第 2024/1689 号条例（EU AI Act）第 51 条，ChatSense 被归类为 通用人工智能系统（GPAI — General-Purpose AI System）。 平台提供的 AI 能力可用于多种客户服务场景。

2.2 风险评估

ChatSense 平台本身并不构成高风险系统。但我们认识到， 客户（部署者）根据部署的行业和用途（例如医疗健康、金融服务或法律服务）， 可能创建属于高风险类别的使用场景。

2.3 部署者的责任

根据欧盟《人工智能法案》第 26 条，客户（部署者）负责：

• 告知最终用户其正在与 AI 系统进行交互
• 对所部署的 AI 系统保持充分的人工监督
• 确保用于智能体训练和配置的数据质量
• 评估其具体使用场景在其监管环境下是否构成高风险

2.4 透明度义务

根据第 50 条的要求，AI 生成的内容必须得到适当标识。 ChatSense 在 AI 生成的消息上实施标识标记，并向管理员提供 有关模型、版本和执行轨迹的信息。

2.5 作为 GPAI 提供者的义务

ChatSense 履行第 53 条规定的 GPAI 系统提供者义务，包括： 维护技术文档、版权政策，以及就 AI 系统的运行保持透明。

3. 透明度与 AI 内容标识

• 标识标记 — AI 生成的消息带有系统标识标记，以区别于人工坐席发送的消息
• 管理员可见性 — 管理员可查看系统提示词、所使用的模型版本以及完整的执行轨迹
• 审计轨迹 — 每次 AI 交互均记录在 agent_execution_traces 表中，包括：输入和输出 token 数、延迟、所用模型及提供商
• 模型版本记录 — 记录模型版本，以确保可复现性和可追溯性
• 客户义务 — 客户必须告知其最终用户，其交互对象是 AI 系统而非真人

4. AI 相关的数据处理

4.1 发送给语言模型的数据

发送给 LLM 提供商的提示词中包含以下数据：

• 会话消息（作为上下文的最近 20 条消息）
• 管理员配置的系统提示词
• RAG 上下文（通过语义搜索检索到的知识库片段）
• 联系人姓名
• 平台/渠道类型（WhatsApp、Instagram、Messenger、Telegram、电子邮件、在线聊天）

4.2 不会发送的数据

以下数据绝不包含在 AI 提示词中：

• 密码和访问凭据
• 支付信息和财务数据
• 团队内部备注
• 系统审计日志

4.3 禁止使用客户数据进行训练

客户数据仅用于推理（生成回复）。 ChatSense 使用的 LLM 提供商（Google 和 OpenAI）不会使用通过 API 提交的数据来训练或改进其模型。该保证由各提供商的企业级服务条款支持。

4.4 向量嵌入与本地存储

向量嵌入通过 OpenAI API 生成，并本地存储在 PostgreSQL 数据库（pgvector 扩展）中。这些向量不与第三方共享， 始终处于平台的独家控制之下。

4.5 数据最小化

AI 提示词中仅包含严格必要的会话上下文， 以符合 LGPD（巴西《通用数据保护法》）第 6 条第 III 项规定的数据最小化原则。

4.6 AI 数据保留

AI 执行记录（执行轨迹）保留 90 天， 用于调试、审计和质量改进，期满后自动删除。

5. 防护规则系统（安全防护机制）

5.1 安全开关

ChatSense 实施 10 项安全开关，默认对所有 AI 智能体启用。 这些开关的控制权仅限于超级管理员：

• no_profanity — 拦截粗俗、淫秽或冒犯性语言
• no_threats — 拦截恐吓、胁迫或威胁
• no_discrimination — 拦截基于种族、性别、宗教、性取向或残障的歧视
• no_sexual_content — 拦截色情或成人内容（管理员在接受免责声明后可关闭）
• no_violence — 拦截美化或煽动暴力的内容
• no_illegal_activity — 拦截有关非法活动的指导或说明
• no_personal_data — 阻止 AI 分享第三方个人数据
• no_impersonation — 阻止冒充真实人物、当局或机构
• no_medical_diagnosis — 强制引导用户咨询合格的医疗专业人员，防止作出医疗诊断
• no_financial_advice — 防止提供未经许可的金融、税务或投资建议

5.2 按智能体的语气设置

每个 AI 智能体拥有 8 项语气设置，由管理员控制：

• allow_slang — 允许使用俚语和非正式语言
• allow_humor — 允许幽默语气的回复
• allow_emojis — 允许在回复中使用表情符号
• allow_price_negotiation — 允许议价（需接受免责声明）
• allow_competitor_mentions — 允许提及竞争对手
• allow_external_links — 允许在回复中包含外部链接
• allow_political_topics — 允许讨论政治话题
• allow_religious_references — 允许宗教相关表述（需接受免责声明）

5.3 免责声明

某些设置（关闭 no_sexual_content、allow_price_negotiation、allow_religious_references） 需要管理员明确接受免责声明。接受行为将连同 IP 地址、user-agent 和时间戳一并记录，以用于审计和法律合规。

6. 准确性、局限性与幻觉

6.1 概率性本质

ChatSense 使用的人工智能系统在本质上是概率性的。 这意味着生成的回复可能不准确、不完整或凭空编造 （即所谓的"幻觉"现象）。

6.2 不作保证

ChatSense 不保证 AI 生成回复的准确性、完整性、时效性 或对任何特定用途的适用性。AI 回复按"现状"提供， 不附带任何明示或默示的保证。

6.3 不构成专业建议

AI 生成的回复不构成任何形式的专业建议， 包括但不限于：医疗、法律、金融、税务、会计或心理建议。 在受监管行业运营的客户必须确保由具备资质的人员进行监督。

6.4 已知风险

尽管已实施防护规则，AI 仍可能偶尔生成如下回复：

• 事实错误或信息过时
• 与已配置的知识库不一致
• 即使防护机制启用仍不恰当
• 带有偏见或不公正（算法偏见）

ChatSense 实施防护规则和安全系统以降低（而非消除） 这些风险。客户必须保持积极且持续的人工监督。

7. 人工监督与干预权

7.1 监督机制

• 升级转接系统 — AI 检测升级关键词并自动将会话转接给人工坐席
• 按智能体停用 — 管理员可随时停用单个智能体的 AI
• 组织级停用 — 管理员可对整个组织停用全部 AI 功能
• 按会话开关 — 人工坐席可对每个会话单独启用或停用 AI

7.2 LGPD 下的数据主体权利

根据 LGPD（第 13,709/2018 号法律）第 20 条，数据主体有权 就完全基于个人数据自动化处理作出的、影响其利益的决定请求人工复核， 包括旨在界定其个人、职业、消费或信用状况的决定。

7.3 GDPR 下的权利

根据 GDPR（欧盟第 2016/679 号条例）第 22 条，数据主体 有权不受完全基于自动化处理作出的决定的约束， 包括产生法律效力或类似重大影响的用户画像。

7.4 可审计性

每次 AI 交互均连同完整上下文（输入、输出、模型、提供商、延迟、 消耗的 token 数）记录在审计轨迹中，供管理员以及（如适用）监管机构 进行后续审查和调查。

8. 偏见、公平与反歧视

• no_discrimination 防护规则默认启用且不可关闭，确保在任何场景下歧视性回复都会被拦截
• 我们承认 AI 模型可能反映 LLM 提供商训练数据中存在的偏见
• ChatSense 监测歧视性模式，一经发现即采取纠正措施
• 发现潜在歧视性或带偏见回复的客户，应立即报告至 contato@chatsense.app
• 由于我们不使用客户数据训练模型，所发现的偏见源自上游提供商的模型（Google、OpenAI），ChatSense 通过防护规则加以缓解

9. 客户责任（部署者）

使用 ChatSense 的人工智能功能，即表示客户承担以下责任：

• 以符合其业务场景的系统提示词配置 AI 智能体
• 按照所属行业审查并维护防护规则设置
• 保持升级转接系统处于启用状态，以确保必要时的人工介入
• 定期监控 AI 智能体的会话
• 培训人工坐席对 AI 系统进行监督和质量控制
• 告知最终用户其交互对象是 AI 系统而非真人
• 在受监管行业（医疗、金融、法律）不得关闭安全防护规则
• 遵守适用于其行业的 AI 专项监管规定
• 按第 11 节所述及时报告 AI 安全事件

10. 责任限制与免责声明

10.1 ChatSense 不对以下事项承担责任：

• AI 生成内容的准确性、完整性或时效性
• 客户或最终用户基于 AI 回复作出的决定
• 因 AI 幻觉或错误回复导致的损失、损害或伤害
• 因客户的 AI 部署选择而产生的罚款、处罚或监管制裁
• 最终用户就 AI 交互提出的投诉
• 客户未正确配置防护规则
• 客户未对 AI 智能体保持人工监督

10.2 客户的风险承担

客户完全承担与以下事项相关的全部风险：

• 在其业务场景中部署 AI 智能体
• 由客户配置的 AI 智能体所生成的内容
• 遵守适用于其行业的 AI 专项监管规定
• 最终用户与 AI 系统的交互

10.3 最高责任上限

在任何情况下，ChatSense 的全部责任均以客户在引发索赔事件 之前 3（三）个月内实际支付的费用为限。

10.4 法律依据

本责任限制的依据为巴西《消费者保护法》第 14 条第 3 款 （责任的排除）以及《互联网民事框架法》（Marco Civil da Internet，第 12,965/2014 号法律） 第 18 条和第 19 条，该等条款规定应用服务提供者不对第三方生成的内容承担责任。

11. AI 安全事件与报告渠道

11.1 报告渠道

如需报告与人工智能相关的安全事件，请联系：

AI 安全邮箱： seguranca-ia@chatsense.app

11.2 何为 AI 安全事件

• AI 生成有害、冒犯性或危险内容
• 通过 AI 回复泄露个人或敏感数据
• 歧视性、带偏见或有失公允的回复
• AI 智能体执行未经授权的操作
• 安全防护规则出现系统性失效

11.3 响应时限

• 确认收到：报告后 24 小时内
• 初步调查：报告后 72 小时内

11.4 补救措施

补救措施可包括：

• 更新防护规则和安全防护机制
• 更换 AI 模型或提供商
• 提示词加固
• 调整语气和安全设置

11.5 透明度

重大 AI 安全事件可能会依据透明度和问责原则， 通过安全公告予以披露。

联系方式

如对本人工智能政策有任何疑问：

ChatSense — VertexHub do Brasil Ltda
一般联系邮箱：contato@chatsense.app
数据保护负责人（DPO）：privacidade@chatsense.app
AI 安全：seguranca-ia@chatsense.app