大模型天花板GPT-4，它是不是……变笨了？

先是少数用户提出质疑，随后大量网友表示自己也注意到了，还贴出不少证据。

无奈切换到 GPT-3.5，反倒解决了。

(资料图片仅供参考)

以前 GPT-4 能写对的代码，现在满是 Bug

回答问题的深度和分析变少了

响应速度比以前快了

这就引起不少人怀疑，OpenAI 是不是为了节省成本，开始偷工减料？

两个月前 GPT-4 是世界上最伟大的写作助手，几周前它开始变得平庸。我怀疑他们削减了算力或者把它变得没那么智能。

网友们相互交流自己的遭遇后，" 几周之前开始变差 "，成了大家的共识。

一场舆论风暴同时在 Hacker News、Reddit 和 Twitter 等技术社区形成。

OpenAI 开发者推广大使Logan Kilpatrick，出面回复了一位网友的质疑：

API 不会在没有我们通知您的情况下更改。那里的模型处于静止状态。

对于网友普遍提到 GPT-4 写代码水平变差，我们做了个简单实验。

实测 GPT-4" 炼丹 " 本领下降了吗？

3 月底，我们曾实验过让 GPT-4" 炼丹 "，用 Python 写一个多层感知机来实现异或门。

让 GPT-4 改用 numpy 不用框架后，第一次给出的结果不对。

在修改两次代码后，运行得到了正确结果。第一次修改隐藏神经元数量，第二次把激活函数从 sigmoid 修改成 tanh。

这回 GPT-4 第一次就没有使用框架，但给的代码仍然不对。

后续只修改一次就得到正确结果，而且换成了力大砖飞的思路，直接增加训练 epoch 数和学习率。

由于时间有限，我们只进行了这一个实验，且由于 AI 本身的随机性，也并不能否定网友的观察。

最早 4 月 19 日就有人反馈

我们在 OpenAI 官方 Discord 频道中搜索，发现从4 月下旬开始，就不时有零星用户反馈 GPT-4 变差了。

5 月 31 日，Hacker News 和 Twitter 同天开始大量有网友讨论这个问题，成为整个事件的关键节点。

HackerNews 一位网友指出，在 GPT-4 的头像还是黑色的时候更强，现在紫色头像版在修改代码时会丢掉几行。

在 Twitter 上较早提出这个问题的，是 HyperWrite（一款基于 GPT API 开发的写作工具）的 CEO，Matt Shumer。

不过这些回应并没让大家满意，反而讨论的范围越来越大。

比如 Reddit 上一篇帖子提到，原来能回答代码问题的 GPT-4，现在连哪些是代码哪些是问题都分不出来了。

ChatGPT 的更新日志中，分别在1 月 9 日、1 月 30 日、2 月 13 日提到了对模型本身的更新，涉及改进事实准确性和数学能力等。

但自从3 月 14 日GPT-4 发布之后就没提到模型更新了，只有网页 APP 功能调整和添加联网模式、插件模式、苹果 APP 等方面的变化。

很多人也给出了自己的猜想。

第一种可能的原因是心理作用。

Keras 创始人 Fran ois Chollet 就表示，不是 GPT 的表现变差，而是大家渡过了最初的惊喜期，对它的期待变高了。

还有一种猜测是在启用插件的情况下，插件的额外提示词对要解决的问题来说可能算一种污染。

这位网友就表示，在他看来 GPT 表现变差正是从插件功能开始公测之后开始的。

如果在手机端开启一个对话，它会知道自己在通过手机与你交互。

会把回答控制在一到两句话，除非需要长的推理。

不会使用表情包，除非你明确要求他使用。

那么如果在网页版继续一个在 iOS 版开启的对话而没意识到，就可能观察到 GPT-4 回答变简单了。

总之，GPT-4 自发布以来到底有没有变笨，目前还是个未解之谜。

但有一点可以确定：

3 月 14 日起大家上手玩到的 GPT-4，从一开始就不如论文里的。

与人类对齐让 AI 能力下降

微软研究院发表的 150 多页刷屏论文《AGI 的火花：GPT-4 早期实验》中明确：

他们早在 GPT-4 开发未完成时就得到了测试资格，并进行了长期测试。

后来针对论文中很多惊艳例子，网友都不能成功用公开版 GPT-4 复现。

目前学术界有个观点是，后来的RLHF 训练虽然让 GPT-4 更与人类对齐——也就更听从人类指示和符合人类价值观——但让也让它自身的推理等能力变差。

论文作者之一、微软科学家张弋在中文播客节目《What ’ s Next｜科技早知道》S7E11 期中也提到：

那个版本的模型，比现在外面大家都可以拿得到的 GPT-4 还要更强，强非常非常多。

举例来说，微软团队在论文中提到，他们每隔相同一段时间就让 GPT-4 使用 LaTeX 中的 TikZ 画一个独角兽来追踪 GPT-4 能力的变化。

论文中展示的最后一个结果，画得已经相当完善。

后来当 OpenAI 开始关注安全问题的时候，后续版本在这个任务中变得越来越糟糕了。

除了专业研究团队之外，关心 AI 的网友们也在用自己的办法追踪着 AI 能力的变化。

有人每天让 GPT-4 画一次独角兽，并在网站上公开记录。

并且 4 月画的与现在画的似乎只是一样差，也没看出来明显退步。

最后来问问大家，你是 GPT-4 用户么？最近几周有感到 GPT-4 能力下降么？欢迎在评论区聊聊。

Bubeck 演讲：

https://www.youtube.com/watch?v=qbIk7-JPB2c

张弋访谈：

https://xyzfm.link/s/UfTan0

每天一个 GPT-4 独角兽

https://gpt-unicorn.adamkdean.co.uk

参考链接：

[ 1 ] https://news.ycombinator.com/item?id=36134249

[ 2 ] https://twitter.com/nabeelqu/status/1663915378265800705

[ 3 ] https://twitter.com/OfficialLoganK/status/1663934947931897857

[ 4 ] https://discord.com/channels/974519864045756446/1001151820170801244

[ 5 ] https://twitter.com/mattshumer_/status/1663744527448829954

[ 6 ] https://www.reddit.com/r/ChatGPT/comments/13xik2o/chat_gpt_4_turned_dumber_today/

[ 7 ] https://help.openai.com/en/articles/6825453-chatgpt-release-notes

[ 8 ] https://twitter.com/fchollet/status/1664036777416597505

[ 9 ] https://news.ycombinator.com/item?id=36155267