专利律师用了三个月 AI,写出的申请书质量更好。研究者随后要求他们不借助工具,修改一份有问题的专利申请。获得工具的资深律师在这道题上得分更高,初级律师的平均表现却没有明显变化。同一项研究里的两个结果放在一起,才让“AI 帮人学会工作”这句话有了可检查的意思。
我先看的是那道没有 AI 的修改题。起草时有工具帮忙,文章写得好,可以是人进步了,也可以是工具补上了人的不足。修改别人写好的申请书,需要找出会影响专利效力、技术准确性和权利范围的错误。工具离开以后,判断还在不在,才看得出来。
好作品从哪里来
这项专利律师实验在九月以工作论文公开,Google Research 于十月七日介绍了结果。研究者与美国十一家知识产权律所合作,将一百三十三名律师随机分组。约三分之二的人获得一款 AI 起草工具,其他人暂时没有这款工具。十天和九十天时,两组都根据给定的发明资料起草专利,独立的专利律师在不知道分组的情况下评分。研究的直接成本由 Google 出资,论文尚未经过同行评议。
有工具的一组,两次起草的质量都更高。论文报告,十天时平均提高零点三四个标准差,九十天时提高零点三八个标准差。这不是质量提高百分之三十四或三十八。初级律师从辅助中得到的当下增益更大;十天那道起草题里,他们平均还少花了约十八分钟。只看交出去的文件和完成时间,给新人配工具很容易得到好评。
九十天的最后一题换了做法。律师们要在不用 AI 的条件下,修改一份预先埋有问题的申请书。完成这道题的有九十一人。研究者把执业未满七年的人归为初级律师。获得工具的资深律师在这道独立任务中,平均分高于未获得工具的同龄组。初级律师两组的平均分没有明显差别,分数却分散了,较差和较好的答卷都增加了。
这不能写成“AI 让年轻律师退步”。论文没有在开始时给每个人做同样的独立能力测试,也无法直接观察每位律师在最后一题是否完全没有碰别的 AI 工具。研究持续三个月,最终完成修改题的人少于最初入组人数。它能支持的判断更窄,也更要紧。起草作品的进步,不能自动算作新人判断力的进步。
研究者还检查了修改的方式。有些初级律师沿着文档从头往下改,花时间处理措辞,走到决定权利范围的主要条款时已经所剩不多。资深律师更常直接重写关键条款,并解释为何要这样改。这是研究者对提交文本的观察,不能用来断定某位新人因为 AI 才形成了这种习惯;它提醒人们,完成一份文件和知道该先改哪里,原本就是两种本领。
省下来的时间给谁
同在十月七日,Stanford HAI 发表了另一项职场研究的介绍。研究团队先访谈了律所、广告公司和 IT 服务公司的一百八十四名员工,又在一家律所观察两个部门近两年。两个部门拿到同一款起草工具。一边的主管强调更快写完合同,另一边让法务助理尝试把省下的时间用于法律研究和案件分析。
后一个部门的助理使用工具的频率高出百分之五十八,尝试新用法的频率高出百分之七十。他们还得到了培训、每周交流、指导和专门的探索时间。这几件事同时发生,研究没有单独证明“把说法换得好听一点”就能提高使用率。值得看的是时间去了哪里。做研究和分析需要更久,他们处理的案件数量反而可能下降。若主管仍只按办结件数考核,更有价值的工作就会显得像效率变差。
两项研究的人和任务不同,不能把数字相加。它们共同留下一个很实际的问题。新人用 AI 省下起草时间以后,还有没有机会自己检查错误、解释取舍、跟资深同事讨论关键修改?如果这些环节都交给工具,眼前的文件也许更漂亮,团队却少了一次知道新人究竟会不会判断的机会。
这也是我更愿意从两项研究里带走的做法。验收 AI 项目时,除了看完成速度和作品质量,给需要培养判断力的人留一次不靠工具的检查,并看他把时间花在了哪些问题上。专利律师实验只能说明这类任务里的三个月结果;其他行业要自己找对应的独立任务。好作品值得高兴,人的本领得另看一眼。
/ 作者,ZestJT