明敏源于奥菲寺。

量子比特|微信官方账号QbitAI

在科技巨头对ChatGPT大打出手的另一面，学术界也对ChatGPT更加关注。

一周之内，《自然连发两篇》的文章讨论了ChatGPT和生殖人工智能。

毕竟ChatGPT最早在学术界引起了一场风波，有学者用它来写摘要，修改论文。

《自然》为此专门下了禁令：ChatGPT不能做论文作者。科学直接禁止投稿使用ChatGPT生成文本。

但是趋势已经摆在我们面前了。

我们现在应该做的可能是明确ChatGPT对于科学界的意义及其立场。

正如大自然所说：

生成式人工智能及其背后的技术发展如此之快，以至于每个月都有创新。研究人员如何使用它们将决定技术和学术界的未来。

ChatGPT改变学术圈规则

在文章《ChatGPT：五大优先研究问题》中，研究人员提出：

不能阻止ChatGPT进入学术圈，当务之急应该是研究和讨论它会带来什么潜在影响。

如果后续的ChatGPT用于设计实验、进行同行评议、协助发表、帮助编辑决定是否接受文章.这些应用需要注意哪些问题？人类现在需要界定哪些界限？

研究人员认为，有五个领域需要优先考虑，并解释了原因。

坚持人类审查制度

ChatGPT等对话式AI的一大特点是无法保证回答内容的准确性。而且编造的谎言很自然，容易误导人。

例如，研究人员要求ChatGPT总结一篇关于认知行为疗法(CBT)在治疗焦虑和其他症状方面是否有效的论文。

ChatGPT给出的答案有很多事实错误。例如，它说这个评估是基于46项的研究，但它实际上是69项,它夸大了CBT的有效性。

研究人员认为，如果一些学者使用ChatGPT来帮助他们的研究，他们很可能会被虚假信息误导。甚至导致学者在毫不知情的情况下，剽窃他人成果.

因此，研究人员认为，人类在审阅论文的过程中，不应过分依赖自动化系统，最终还是要对科学实践负责。

制定问责规则

为了应对生成式AI的滥用，很多识别AI文本的工具相继诞生，可以很好的分辨一段文本是否是人类自己写的。

然而，研究人员认为这种“军备赛”大可不必真正需要做的是让学术界和出版商能够更加公开透明地使用人工智能工具。

论文作者应明确说明哪些工作由AI承担，如果期刊使用AI审稿，也应公开说明。

特别是目前，生成式AI已经引发了一场关于专利问题的讨论。AI产生的图片版权怎么算？

那么对于AI生成的问题，版权应该属于为AI提供训练数据的人？AI背后的制作公司？还是用AI写文章的书生？作者的身份问题也需要严格的定义。

投资一个真正开放的LLM

目前几乎所有高级对话式AI都是科技巨头带来的。

关于人工智能工具背后的算法的工作原理，仍有许多未知之处。

这也引起了各界的关注，因为巨头们的垄断行为已经严重违背了科学界的开放原则。

这将影响学术界探索对话式AI的缺点和底层原理，并进一步影响科技的进步。

为了克服这种不透明性，研究人员认为是时候以优先考虑开源AI算法的开发和应用.为例了，BLOOM这种开源模型是由1000名科学家共同发起的，其性能可以媲美GPT-3。

拥抱人工智能的优势

虽然需要限制的方面很多，但不可否认的是，AI确实可以提高学术圈的效率。

比如一些审查工作可以由AI快速完成，学者可以更关注实验本身，结果可以更快发表，从而推动整个学术圈的步伐走得更快。

甚至在一些创造性的工作中，研究人员认为AI也可以有用。

1991年，一篇开创性的论文提出了人与人工智能之间的“智能伙伴关系”，可以胜过单独人类的智力和能力.

这种关系可以将创新加速到难以想象的水平。但问题是，这种自动化能走多远？我应该走多远？

因此，研究人员也呼吁包括伦理学家在内的学者，讨论当今AI中知识内容生成的边界，人类的创造力和原创性可能仍然是创新研究不可或缺的因素。

进行一场大辩论

鉴于LLM的影响，研究者认为学术界应该紧急组织一场大辩论。

他们呼吁每个研究小组都应该立即开组会，讨论并亲自试试ChatGPT.大学的教师应该主动与学生讨论ChatGPT的使用和伦理问题。

在早期规则还没有明确的阶段，对于研究小组负责人来说，重要的是如何号召大家更公开透明地使用ChatGPT，并开始形成一些规则。以及应该提醒所有研究人员，要对自己的工作负责，无论它是否由ChatGPT生成。

更进一步，研究人员认为要立即举办一个国际论坛，讨论LLM的研究和使用问题。

成员应该包括各个领域的科学家、科技公司、研究机构投资方、科学院、出版商、非政府组织以及法律和隐私方面的专家。

Nature：ChatGPT和AIGC对科学意味着什么

兴奋又担忧，大概是许多研究人员对于ChatGPT的感受。

发展到现在，ChatGPT已经成为了许多学者的数字助手。

计算生物学家CaseyGreene等人，用ChatGPT来修改论文。5分钟，AI就能审查完一份手稿，甚至连参考文献部分的问题也能发现。

来自冰岛的学者HafsteinnEinarsson，几乎每天都在用ChatGPT来帮他做PPT、检查学生作业。

还有神经生物学家AlmiraOsmanovicThunström觉得，语言大模型可以被用来帮学者们写经费申请，科学家们能节省更多时间出来。

不过，Nature对ChatGPT输出内容做出了精辟总结：

流畅但不准确。

要知道，ChatGPT的一大缺点，就是它生成的内容不一定是真实准确的，这会影响它在学术圈的使用效果。

能解决吗？

从现在来看，答案有点扑朔迷离。

OpenAI的竞争对手Anthroic号称解决了ChatGPT的一些问题，不过他们没有接受Nature的采访。

Meta发布过一个名为Galactica的语言大模型，它由4800万篇学术论文、著作炼成，号称擅长生成学术方面内容，更懂研究问题。不过现在它的demo已经不开放了（代码还能用），因为用户在使用过程中发现它带有种族歧视。

即便是已经被调教“乖巧”的ChatGPT，也可能会在刻意引导下输出危险言论。

OpenAI让ChatGPT变乖的方法也很简单粗暴，就是去找非常多的人工给语料标注，有声音认为这种雇人看有毒语料的行为，也是一种剥削。

但无论如何，ChatGPT及生成式AI，开启了人类新的一扇想象之门。

医学学者埃里克·托普(EricTopol)表示，他希望未来能有包含LLM的人工智能，可以交叉检查学术文献中的文本和图像，从而帮助人类诊断癌症、理解疾病。当然这一切要有专家做监督。

他说，真没想到我们在2023年年初，就看到了这样的趋势。

而这才只是开始。

参考链接：
[1]https://www.nature.com/articles/d41586-023-00340-6
[2]https://www.nature.com/articles/d41586-023-00288-7