ChatGPT在专业领域就是个笑话

寂静回声

总体来看，目前ChatGPT更擅长于一些搜索、资料整理的工作。从四面八方涌来的ChatGPT拥趸们，也无奈地发现，人工智能工具也有“智障”时刻。作为金融方向的研究生，林方起初震惊于ChatGPT回答问题的速度，“语言流畅，显得非常专业”，而且会“列出知识点”，“一句话的功夫比我一周找的文献还牛”。但在最初的震惊过后，林方发现，ChatGPT回答问题所使用的内容，一部分来自于网络的科普文章，一部分则根本“经不起推敲”，最重要的是，虽然推荐的文献看起来有模有样，但实际上“都是搜不到的，很可能是ChatGPT乱编的”

同样的乌龙也发生在用ChatGPT写代码时，林方发现ChatGPT输出的代码，“看起来一本正经，实则完全没办法使用”，可能“一是因为流行病学和生物信息学并非ChatGPT擅长的学科，二是ChatGPT在数据集中这方面的训练数据比较少”，林方补充道。而且，ChatGPT输出答案的质量也受到了质疑。林方发现，虽然邮件、发言稿这类日常文稿使用ChatGPT可以极大解放双手，但到了学术写作领域，“ChatGPT始终更像是糊弄学大师”，即在学术写作时ChatGPT只是学习语言的“pattern”（模式），并不是基于对信息和学术用语的理解输出回答，这导致“ChatGPT的学术写作经不起细读，感觉更像是概念的生搬硬套”。
Franco也表示，“ChatGPT有时用词和表达方式并不专业”，而由于ChatGPT本身仍属于AI工具，难免出现“车轱辘话”，甚至误解语义的问题。“虽然想训练ChatGPT当小工，但发现局限还是不小。”林方坦言，“ChatGPT准确度并不高，比如，我提供给ChatGPT两篇观点相反的文献，ChatGPT会出现三种输出方式，即AB都说XX是好的；目前众说纷纭，A说好B说不好；AB都说不好。”然而，一旦林方对其进行反驳，提出输出的内容不对，ChatGPT就会立刻更改，即使输出的是正确答案。
“ChatGPT的观点都太普通了，只能对学术写作起到辅助作用。”阿韩直言，“专业的论文写作需要深刻的观点阐释，而你可以利用ChatGPT收集信息的能力迅速了解一个课题，却无法让他输出专业的观点。”特别是在一些理科领域，如金融、生化环材、电子信息等等专业，ChatGPT更容易“露怯”，“即使就ChatGPT目前搜集资料、处理数据的能力而言，对于会Python的人来说，吸引力也并不大。”
此外，随着ChatGPT风靡全球，关于其背后的数据伦理和版权抄袭问题的讨论亦甚嚣尘上。阿韩告诉燃次元，无论是写求职信还是提问论文涉及到的问题，她始终“不敢把个人信息上传到ChatGPT内”，此外，对于“尚未发表的文章数据或者结论上传到ChatGPT数据库”从而可能被用作AI智能训练和学习的资料“是否合适”的问题，阿韩也在心里打了一个问号。虽然作为辅助工具，ChatGPT能够在语法润色、内容扩写、提供论文思路等等方面有极大助益，但其背后隐藏的风险也引发了学生群体的担忧。
“我的教授特意告诉大家，如果用ChatGPT写结课作业，会被AI检测出来直接认定为学术不诚信。”Franco担心地表示，现在“整段润色我还是会再观望一下”。目前Franco在使用ChatGPT时也会尽量删去敏感词，只将ChatGPT作为免费的文章润色工具使用。而根据财联社报道， 近日，针对使用ChatGPT撰写学术论文现象，多家知名学术期刊正在更新编辑规则。其中《科学》明确禁止将ChatGPT列为合著者，并且不允许在论文中使用ChatGPT所生产的文本。《自然》虽然允许在论文中使用包含ChatGPT在内的语言模型生成的文本，但不能列为合著者。
产业时评人张书乐则表示，大厂此时下场，似乎更像带着“被胁迫的味道”来“刷存在感”。在此之前，人工智能只在电竞、无人驾驶等较高消费层级和小众领域向公众展示肌肉，而如今，随着ChatGPT这一人人都可使用的聊天机器人横空出世，原本小众的AIGC圈层的平衡性被打破，大厂也不得不下场。而大厂入场也有弊端，“*的问题就是容易损伤企业公信力。”较之公众对ChatGPT的容错率极高，带有极强娱乐色彩的传播轨迹而言，大厂的AI工具一旦表现失常，都将成为一场公关危机。例如，谷歌人工智能首秀答题错误，股价暴跌8%。过去大厂的人工智能更强调技术突破，而不考虑消费级训练，在这一波短期AI热中，势必处于舆论被动和市值不稳的状态中。目前相对于二级市场的火热，一级市场的投资者们仍在理性观望。华创资本合伙人王道平表示，“对于国内来说，大部分创业公司或者投资，都还处于早期或跟随状态。”张书乐亦直言，“ChatGPT只会是短期网红，在‘玩腻’后很大可能被‘月抛’。”不过，这种应用后续有望在智能客服、搜索引擎的资料整合等场景进行应用。“事实上，ChatGPT的技术性并不强，只是针对资料深度学习和进行了语法上的强化训练，和更关注垂直领域和商用领域的大厂技术，并不能同日而语，就目前而言，ChatGPT的应用场景依然不够宽广，以ChatGPT为例说人工智能真正进入了消费级市场，还为时尚早。”