法律科技初创公司BrentWorks宣布推出CiteSentinel，这是一款专门用于检测并防范法律引用（包括生物技术相关法律引用）中AI幻觉问题的专用平台。该公司表示，该工具可扫描法律文书，在文书提交至法官之前，标记出其中可能属于伪造、表述错误或存在其他纰漏的判例法、成文法及法律权威依据。
BrentWorks联合创始人Brent Britton是一名技术律师，同时也是毕业于麻省理工学院的工程师，他指出，目前美国各地法院对提交含有虚构判例引用的辩护书的律师的处罚力度正不断加大，这一现象是生成式AI撰写工具的公认副产品：这类工具会生成听起来权威但完全虚构的法律依据。Britton补充道，CiteSentinel的设计目的就是填补这一验证缺口，为律师提供一种快速简便的方式，确认提交文书中的每一条引用都对应真实存在的判例、成文法与法律权威依据。
“法律行业正以极具公开性的方式认识到，AI不仅会出错，还会面不改色地编造信息。”Britton进一步表示，“CiteSentinel的作用就是重建信任。它让律师既能利用生成式AI难以替代的效率快速推进工作，同时也能确保提交的文书中引用的依据都真实可靠。此外，该工具还支持律师扫描对方律师的文书，帮助其在法庭上获得竞争优势。”
Britton指出，很多自身并未使用AI撰写文书的律师也会遇到相关问题。对方律师可能使用了AI，协同律师也可能使用了AI，合同制律师与律师助理几乎肯定可以接触到AI工具，且可能在未披露的情况下使用这类工具。他解释道，当含有虚构引用的辩护书提交至法院时，文书的起草者是谁很快就会让位于文书的署名者是谁这一问题。
Britton表示，CiteSentinel可支持律师扫描任何文书——包括自己撰写的、同事撰写的或是对方律师撰写的文书，在引用错误演变为自身责任之前排查相关问题。他指出，使用CiteSentinel核查对方律师提交文书的律师还能获得额外优势：他们可以识别并挑战那些完全不存在的引用依据。
Britton称，与侧重于检索更多信息的传统研究平台不同，CiteSentinel的开发目的是确认文书中引用的法律条文真实存在。律师可扫描以下类型的文书：
- 提交前自行撰写的AI辅助草稿
- 协同律师、合同制律师及辅助人员提交的材料
- 对方律师的提交文书，以获取战略优势
- 任何引用准确性与职业或伦理责任相关的文书
BrentWorks的另一位联合创始人是Brent Hunter，他是一名技术专家，早在1993年就将神经网络应用于金融领域。他表示，CiteSentinel是该公司将在AI时代推出的一系列法律执业工具中的首款产品。
两位BrentWorks联合创始人一致认为，AI幻觉在生物技术相关法律事务中会带来尤为突出的风险，因为这类案件往往高度依赖技术证据，包括专利权利要求、现有技术、临床试验数据、美国食品药品监督管理局（FDA）监管历史、科学出版物、专家证人证言、自由实施分析以及许可协议。在这类场景下，AI系统可能会编造不存在的科学参考文献、错误解读FDA指导文件、伪造专利判例、错误概括临床试验结果，或生成不准确的现有技术检索结果。这类错误会破坏法律论证、监管提交材料以及知识产权策略的有效性。
“在生物技术诉讼领域，AI幻觉的危害会真正显现。这类场景下的AI系统本来就被训练得表述极具权威性，现在它会把虚构的专利判例和伪造的临床数据加入文书，而这些文书将决定一款药物能否惠及患者、一项专利能否通过异议审查。”Britton解释道，“在这个技术记录就是一切的领域，一份虚假的FDA指导文件或是一条编造的现有技术参考文献就可能瓦解整个法律策略，以及随之而来的多年工作成果。法律从来都是一场高风险的信息博弈，而现在机器正在用虚假的牌参与这场博弈。”
Britton预测，随着CiteSentinel的功能拓展至判例引用验证以外的场景，“它将成为保障所有参与方信息真实性的真相层。”