跳到索引

产品状态: 尚未登记状态

本条目尚未登记生命周期复核。被目录收录不代表当前可用,选用前请向厂商确认。

尚未记录状态查看日期

面向 AI 应用与 agent 的安全:守住模型「做了什么」、做对抗性测试,并治理员工与 agent 的使用。 本条目尚未登记生命周期复核。被目录收录不代表当前可用,选用前请向厂商确认。

产品预览

www.lakera.ai
Lakera 的产品预览

深度介绍

Lakera 卖的是基于模型构建的系统的安全,而它自己的提法才是最有用的部分:**管住 AI 能访问什么是不够的,要管住它做什么**。这把问题从熟悉的权限清单挪到了行为上——一个对支付系统有合法访问权的 agent,仍然可能被说服去错误地使用它,而任何访问控制列表都拦不住这种情况。

产品线也据此展开:应用流量的运行时护栏;面向员工使用 AI 工具以及企业内部 agent 的保护与治理;基于风险的测试;以及由人来攻击系统的红队服务。值得记住的区分是**测试与运行时防御**:红队找出的,是它执行那天已经存在的攻击;护栏才是对下周才被发明出来的攻击继续生效的东西,两者谁也替代不了谁。常规提醒在这里比平时更要紧:护栏本身就是一个对输入做判断的模型,因此会有漏报,而厂商的检出率是针对**厂商自己挑的那批攻击**测出来的。

资料来源

本篇的事实性陈述来自以下页面。日期是编辑最后一次打开该来源的日期,不是产品发生变更的日期。

优点 / 缺点

优点

  • 把安全边界放在行为而不是访问权限上,而 agent 真正出问题的正是行为
  • 同时覆盖红队与运行时防御,两者回答的是不同问题
  • 不止保护应用,还治理员工如何使用 AI 工具

缺点

  • 护栏本身就是对输入做判断的模型,因此既有漏报也有误报
  • 检出率是针对厂商自己的攻击集测出来的
  • 企业价格与部署条款未公开,成本需要谈

适合谁用

01

为面向客户的 AI 应用防御提示词注入

02

在 agent 拿到真实权限前做红队测试

03

治理员工对 AI 工具的使用

04

在模型调用前加运行时检查

编辑结论

以行为而非权限为框架的 AI 系统安全;常规提醒仍然成立——护栏本身也是一个模型。

核心功能

AI 应用的运行时护栏
AI agent 安全
基于风险的测试
AI 红队服务
生成式 AI 流量的网关安全

标签

安全护栏红队

常见问题

Lakera 目前还能使用吗?

本条目尚未登记生命周期复核。被目录收录不代表当前可用,选用前请向厂商确认。

Lakera 是什么?

Lakera 是由 Lakera 开发的AI 平台工具。面向 AI 应用与 agent 的安全:守住模型「做了什么」、做对抗性测试,并治理员工与 agent 的使用。

Lakera 是免费的吗?

不是——Lakera 是付费产品。请访问官网查看最新的方案与定价。

Lakera 是开源的吗?

不是——Lakera 是专有软件。

Lakera 有哪些最佳替代品?

值得关注的AI 平台替代品包括 Hugging Face、Replicate、Ollama。你可以在我们的AI 平台分类中浏览全部 138 个工具。

这个页面有帮助吗?

访问官方网站 →

基本信息

定价
付费
编辑评分
★ 4.3 / 5 评分方式
平台
APIWeb
最近核验
尚未记录