人工智能辅助科研要从可用走向可信

发布时间:2024-12-05 14:49:45 来源: sp20241205

原标题:人工智能辅助科研要从可用走向可信

对于科研工作者来说,检索、阅读文献是一项费时费力的工作。在大模型发展如火如荼的今天,以其为代表的人工智能正渗透进人们工作生活的各个角落,科研领域也不例外。

日前,阿里巴巴发布了基于Transformer架构自主研发的千亿参数级夸克大模型。据介绍,该大模型可用于科研资料收集、文献快速阅读与翻译、创作润色等场景。

不仅是阿里巴巴,科大讯飞股份有限公司(以下简称科大讯飞)、腾讯等企业,也都推出了用于辅助科研的大模型产品。这一系列产品的问世,正悄然改变着科研工作者的工作方式。

大模型已进入科研领域

今年初,ChatGPT的走红掀起了语言大模型热潮。人们可以随心所欲地提出问题,大模型总会给出答案。这股风很快也吹到了科研领域。ChatGPT发布后不久,一款名为txyz.ai的应用插件在科研圈中受到追捧。

这是一款借助ChatGPT的强大理解能力,专门用来阅读科研文献的插件。用户可以直接将论文全文上传至该应用,并提出相应解读要求,它便能够以最快速度对用户提出的问题予以回答。

即使没有下载论文全文也没关系,txyz.ai支持对论文预印本网站进行检索。用户可以只提供一个论文ID序号,txyz.ai就会自动检索、学习该论文,并根据用户需求给出回答。不仅如此,用户还能以聊天的方式与其进行对话,就论文中的内容提出各种问题。

视频网站哔哩哔哩知名科普博主严伯钧是txyz.ai的忠实用户,他时常在各类科普视频中使用txyz.ai来协助解读论文。在他看来,txyz.ai给出的论文解读准确率已经非常高,具备很强的实际应用价值,可以帮助科研工作者更加高效地检索、阅读文献。

“txyz.ai无法解读的情况当然也会有。”严伯钧表示,以他的使用经验来看,向txyz.ai提出的问题必须是一个能被回答的“有效问题”,“如果问题问得太细、太深,或者过于刁钻古怪,那么它就会直接告诉你,无法回答”。

但必须承认的是,在大模型迅猛发展并逐渐进入千行百业的今天,专门针对科研领域的大模型产品仍然不算多,且大多数是试验性质的产品。

不久前,科大讯飞在发布最新版本的讯飞星火认知大模型V3.0时,也一口气发布了12个面向行业的专用大模型。其中便有联合中国科学院文献情报中心共同研发的、面向科研工作者的科技文献大模型,以及基于该大模型的应用产品——星火科研助手。这也是国内为数不多的专门为科研工作推出的大模型产品。目前,星火科研助手有成果调研、论文研读、学术写作三大功能。

浙江大学第一附属医院图书馆工作人员以“大语言模型”为关键词对星火科研助手进行了试用。在“成果调研”板块,星火科研助手在检索到的1251314篇文献中遴选了167篇文章进行分析,给出了关于大语言模型的概述。其还可以进一步从遴选的167篇文章中勾选最多30篇文章,据此生成综述。

星火科研助手的论文研读功能则采用当前大语言模型通用的问答模式,可默认生成论文摘要、方法、结论等主要信息;用户也可以就自己关心的论文内容进行提问,科研助手会根据文章内容进行回答。其学术写作功能则主要聚焦科研文章的翻译与润色,目前支持中英文互译,也可以对研究人员撰写的英文文章进行润色。

须保证内容真实且专业

由于技术原因,大模型有时会出现编造信息、“一本正经地胡说八道”的现象。这种现象在业内被称为AI幻觉。生活中,人们在和大模型聊天时,如果出现了AI幻觉,人们可能会一笑了之;但若AI幻觉出现在追求严谨精确的科研领域,后果可能就会很严重。

科大讯飞北京研究院执行院长、科技文献大模型研发负责人伍大勇表示,研发科技文献大模型,核心难点就在于保证其内容的可信性和专业性。“一方面,这要依靠高质量的论文数据;另一方面,在模型预训练和监督微调方面也需要下功夫。”伍大勇说。

他介绍,科大讯飞通过与中国科学院文献情报中心合作,在合规的情况下获取了丰富的科技文献数据,并对数据进行了去重、去噪等处理,以提升数据质量。“星火科研助手采用中国科学院文献情报中心提供的论文接口来进行论文检索。此外,我们还使用了基于论文知识库的检索增强和知识增强策略。这些都使大模型生成的结果有据可依。”伍大勇表示,这些措施从技术上保证了星火科研助手回答结果的准确性,也尽量避免了大模型出现AI幻觉。

同时,伍大勇表示,针对科技文献服务的各个场景,星火科研助手研发团队还邀请专业团队,对大模型训练数据进行监督微调,以提升星火科研助手在科技文献服务上的性能表现。“例如在成果调研和论文研读功能上,我们采用大模型结合知识图谱和知识库的策略,以保证产品输出的内容有据可依。在学术写作上,我们针对学术翻译和学术英语润色专门进行了大模型监督微调,以达到比通用翻译和校对产品更强的专业性。”伍大勇说。

或能激发科研工作者更多灵感

虽然目前尚未有太多人工智能产品被应用于科研领域,但已有学者对人工智能进军科研提出了反对意见,认为这会让科研工作者变得懒惰。在严伯钧看来,科研工作者在应该“懒惰”的地方“懒惰”,反而可以节省出更多时间用在更有价值的工作上。

阅读文献前首先要进行文献检索。为此,科研工作者往往需要搜寻大量文献,在此基础上对部分感兴趣的文献进行粗读,以进一步判断哪些是自己真正需要的文献。这是实打实的“体力活”。严伯钧认为,在这种情况下,借助人工智能工具帮助科研工作者跳过检索、粗读的过程,以更高效的方式直接找到需要的文献,可大幅提升科研工作者的文献阅读效率。

虽然可以借助大模型等工具来检索阅读文献,但严伯钧也不否认读原文的价值。“原文当然要读,但并不一定是每篇都要读。更加精准地定位到需要的文献后再进行精读,是更加高效的方式。”

伍大勇同样表示,研发星火科研助手的初衷在于帮助用户快速了解论文核心内容,提高论文研读效率,让科研工作者能够把更多精力花在更为重要的实验验证等工作上。“辅助提升科研效率是科技文献大模型的关键和目标,但科研工作所需要的灵感、思路、逻辑推理、实验验证、创新与探索等仍离不开科研工作者发挥主观能动性。”

事实上,除了能够辅助阅读文献,人工智能已经在多个科学研究领域带来实际成果。例如在预测蛋白质结构方面,人工智能产生的成果已经远超人类过去工作的总和。严伯钧认为,这种需要大量计算、反复试错的工作,正是人工智能的强项,人类应与其形成合理分工,拥抱新技术。

谈及未来人工智能可能给科研工作带来的改变,严伯钧认为,目前的文献阅读、翻译润色等功能,可能只发挥了人工智能在科研工作领域潜力的1%。在他看来,当下科研发展正呈现出细分化的趋势,一位学者往往只深耕于某一科研领域,而人工智能的跨界思维模式未来或能给科研工作带来一些改变。“或许人工智能可给科研工作者带来更多跨领域、交叉学科的原创性启发,激发科研工作者更多想象力。”

(责编:郝帅、李楠桦)