一段时间以来,互联网上“养龙虾”热潮不断。养过“龙虾”(OpenClaw)的朋友可能对Token这个词并不陌生,而现在这个科技圈的常用词有了官方中文名——词元。
据统计,截至今年3月,我国日均词元调用量已超过140万亿,较2024年初增长1000多倍。
但是,关于词元和“养龙虾”,国家安全部、工信部、国家知识产权局等权威机构纷纷发布提醒指出,面对新技术新应用,既要主动拥抱、善加运用,又要防范风险、确保安全。
必须“圈养龙虾”
“养龙虾”热潮之下,不少普通用户出于好奇或工作需求,也想尝试部署、使用智能体。
不过,工业和信息化部专家指出,OpenClaw在调用大语言模型时可能误解用户指令内容,导致执行删除等有害操作。使用被植入恶意代码的技能包,可能导致数据泄露或系统受控。即使升级到最新版本,如果不采取针对性的防范措施,依然存在被攻击风险。
因此,如果要“养龙虾”,应坚持三个核心准则:隔离、最小权限与全程可监督。
环境物理隔离:绝对不要在存有敏感数据的日常主力电脑或手机上安装。敏感数据包括工作文件、财务信息、通讯记录,以及涉及敏感商业相关的文件和数据等。用户应使用一台功能单一、无重要数据的专用设备,若条件有限,也可在主力机上通过完全独立的虚拟机运行,从根源上隔绝敏感数据与智能体的接触。
权限最小化:用户在安装与配置龙虾智能体时,需严格审视并限制其可访问的目录、应用和网络权限,只授予其完成具体任务所必需的最低权限,杜绝“过度授权”。通过权限管控,可大幅降低龙虾带来的安全风险。
操作可监督:在运行期间,尤其是在初期,要时刻关注龙虾的操作。对于重要或不可逆的操作,比如删除文件、发送邮件、执行安装、修改系统设置等,必须为智能体设置“二次确认”的交互指令,确保最终执行权始终掌握在用户自己手中。同时,要避免在无人监督时,让智能体执行涉及数据修改、对外通信等敏感任务,且需确保其关键操作的日志清晰、可查,以便后续进行审计与回溯,及时发现并规避潜在风险。
“龙虾”也有幻觉
针对“养龙虾”可能出现的风险,国家知识产权局也于近日发布风险提示指出,OpenClaw等智能体工具被曝光默认安全配置脆弱,易引发严重安全风险,同时使用此类智能体撰写专利申请文件,也可能诱发多重风险——
“技术信息泄露”风险:OpenClaw等智能体存在权限过高、安全漏洞、插件投毒等隐患,使用其撰写申请文件,易造成技术交底书等核心信息外泄。一旦泄露,专利申请技术方案可能因丧失新颖性无法授权,甚至被他人抢先申请专利,给申请人带来重大损失,代理机构还需承担违约赔偿责任。
“实质缺陷”风险:在利用该类智能体撰写申请文件时可能出现“AI幻觉”,导致申请文件存在内容逻辑矛盾、技术特征表述不清等问题,从而无法获得保护。
“不诚信申请”风险:通过智能体凭空生成、随机编造、内容拼凑等形成专利申请,属于违反诚实信用原则的不诚信申请专利行为。达到一定数量,申请人将面临警告、罚款等行政处罚;代理机构及代理师将面临吊销执业许可证、注销代理资格证等行政处罚,情节严重的将被列入严重违法失信名单。
来源:中国互联网联合辟谣平台