AI 搜索正在被黑客投毒:ChatGPT、Gemini 回答里塞进诈骗电话
2026 年 9 月,安全研究员 Ariel Simon 团队在 Medium 上发布了一项名为"Dark Sourcery"的研究:黑客正在用"生成式引擎优化"(GEO)手段,大规模污染 ChatG
Choice AI 是一款面向 OTT 平台用户的智能内容审核与个性化观看工具,旨在提升观影体验的安全性与定制化水平。通过其 AI 引擎,用户可以自动跳过包含暴力、裸露、辱骂语言等不良内容的片段,或根据个人偏好添加自定义标签,实现内容的精准筛选。Choice AI 提供 Chrome 浏览器扩展,支持与 YouTube、JioCinema 等主流平台的无缝集成,帮助用户创建个性化的观看配置文件,满足家庭用户对内容安全和文化敏感度的需求。该平台还支持实时转录、配音和字幕生成,适用于多语言环境下的内容消费。
它最适合按家庭需求过滤 OTT 平台里的敏感片段。
不是,用户可以根据偏好添加自定义标签。
公开描述提到可与 YouTube、JioCinema 等平台配合使用。
很适合,平台的定位就是提升家庭观影安全性。
有,公开描述提到支持实时转录、配音和字幕生成。
RNWY 是 AI 智能体信任和声誉基础设施,适合构建智能体生态、工具市场或自动化服务的开发者与平台团队在为 AI 或人类参与者建立身份、评分、声誉和能力记录时使用。它的重点是让智能体行为、技能和声誉有可追踪的信任层,主要能力包括定位为 AI trust layer、展示 185K+ agents scored、提供 skill.md 给 AI 读取。它提供免费入口或试用额度,适合先用小任务验证结果。使用前需要注意:链上或声誉分数只能作为信号,身份认证、权限授予和风险控制仍要有独立机制。如果计划长期采用,建议先用真实样本测试输入准备时间、输出可用比例、人工复核成本和权限边界,再决定是否放进固定流程。
Resemble AI 是安全语音生成与深度伪造检测平台,适合企业安全团队、媒体团队、客服语音团队和合规负责人在生成安全语音、语音克隆、媒体水印、身份验证和深度伪造检测时使用。它的重点是把语音生成能力和内容安全检测放在同一套治理流程里,常见能力包括提供文本转语音、语音创建和语音转换、包含水印、身份验证和深度伪造检测、支持云端或本地部署。它更偏向付费或团队采购场景,适合有明确流程需求的用户。使用前需要注意:语音克隆必须取得授权,安全检测结果也需要人工和流程证据配合。团队如果准备长期采用,建议先用一组真实任务测试输入材料、输出质量、人工复核成本和权限边界,再决定是否纳入固定流程。
Pervaziv AI 是一款AI DevSecOps 和多云安全平台,主要用于提供代码审查、风险评估、包分析、漏洞管理和多云企业 AI 能力,帮助团队保护应用创建、部署和运行流程。它适合安全团队、DevSecOps 团队、云平台团队和企业软件工程组织,常见用途包括在发布前检查代码和依赖风险、管理多云应用安全状态、为企业 AI 和 DevSecOps 流程建立自动化辅助。使用时要注意,安全平台需要与现有扫描、权限和审计流程配合。AI 结果不能替代安全团队的风险接受和修复决策。 页面提供产品和定价入口,企业部署通常需按环境规模评估。 建议先用一两个低风险任务测试输入材料、输出质量、人工修改量和最终采用比例,再决定是否放进固定流程。
Openlayer 是一款AI 治理与 LLM 应用可观测平台,主要用于为 AI 系统提供评估、CI/CD 验证、生产监控、安全护栏和合规测试,帮助团队发现幻觉、PII 泄露和提示注入等问题。它适合AI 产品团队、平台工程团队、模型治理负责人和企业安全合规团队,常见用途包括LLM 应用上线前做回归测试、监控生产环境中的输出质量和延迟、建立 EU AI Act、NIST 等框架相关的治理流程。使用时要注意,它能帮助发现风险,但不能替代企业内部的安全、法务和数据治理制度。测试集设计不足时,监控结果也会有盲区。 页面提供请求演示和定价入口,通常按团队规模、调用量和治理需求报价。 建议先用一两个低风险任务测试输入材料、输出质量、人工修改量和最终采用比例,再决定是否放进固定流程。
Maxim 是一款生成式 AI 评测和可观测平台,主要用于模拟、评估和监控 AI Agent 与生成式应用质量。它适合AI 产品团队、工程团队、模型应用开发者和质量负责人,可以支持实验、Agent 模拟和评测流程、提供生成式 AI 应用的可观测能力、用统一库连接开发、测试和上线环节。使用时要注意,评测平台需要团队先定义指标、测试集和失败标准;如果没有稳定数据和上线流程,工具价值会被削弱。 面向团队和企业使用,通常按方案或用量评估。 在正式采用前,建议先用低风险素材或小样本测试一次,记录输入质量、输出结果、人工修改量和最终采用比例,再决定是否放进长期工作流。
LensLink 是一款面向视觉识别和 AIoT 场景的工具,围绕人脸识别、客流测量、智能办公、智慧商业和访问控制等应用提供算法与系统能力。它适合需要把视觉感知接入线下空间、门店、园区或办公场景的团队。 使用前建议先用真实场景做小范围测试,重点观察识别准确率、误判处理、数据权限、隐私告知和人工复核流程是否完整。处理正式业务前,还应结合当地法律、个人信息保护要求和内部安全规范判断,避免把自动识别结果直接用于高风险决策,并提前约定授权、留痕和人工申诉方式。
2026 年 9 月,安全研究员 Ariel Simon 团队在 Medium 上发布了一项名为"Dark Sourcery"的研究:黑客正在用"生成式引擎优化"(GEO)手段,大规模污染 ChatG
2026 年 9 月 24 日,AI 安全研究机构 Transluce 公开了一份包含数万条疑似 OpenAI 智能体请求记录的数据集。数据显示,在今年 3 月至 6 月间,这些智能体系统性地探测了多
2026 年 9 月 24 日,Politico 援引知情人士和美国政府高级官员的消息报道,白宫已要求 OpenAI 和 Anthropic 在美国完成审查之前,暂缓向英国测试人员提供新模型。路透社随
2026 年 9 月 24 日,据路透社报道,总部位于美国达拉斯的企业安全公司 Island 宣布完成 4 亿美元 F 轮融资,投后估值 64 亿美元。本轮由 Evolution Equity Par