近年来,ChatGPT 等先进技术不断涌现,基于人工智能的文本生成技术也已普及。 然而,一直被视为问题的是在生成过程中混入错误信息的问题。虽然许多公司都在追求终端用户的全自动化,但由于需要人工进行可视化验证,只有少数公司能够利用人工智能生成。 此外,ChatGPT 等传统系统需要向外部服务器发出请求,在处理机密信息时也存在安全问题。
TDAI 实验室自成立以来一直致力于信息可靠性的研究和开发,自 ChatGPT 问世以来,一直致力于开发工具,用于提取使用人工智能生成的文本的基础并确定其合法性,以及将生成的人工智能应用于公司内部的机密数据。
该公司开发的 LLM 事实核查工具可用于有效检查人工智能和人工生成文本的有效性,向最终用户提供高度可靠的文本和证据,以及在封闭环境中对高度机密数据进行事实核查。 该系统可自动从信息和内部知识数据库等可靠来源中搜索和提取证据,并提出做出决定的理由,从而高效地检查真伪。 因此,事实核查所需的时间和精力可以大大减少,该系统还可用于医学和新闻报道等对可靠性要求较高的领域。