噩耗传来：DeepMind天才科学家Felix Hill英年早逝
就在刚刚，一个令人悲伤的消息传来：谷歌DeepMind研究科学家Felix Hill，于2024年12月5日英年早逝，年仅41岁。
据了解，自2023年初以来，他一直在与严重的精神疾病作斗争，期间表现出重度抑郁和严重的自杀倾向，最终不幸离世。
Felix是一位学术成果颇丰的AI学者，谷歌总引用量高达19680，参与创建了自然语言理解基准GLUE和SuperGLUE。
Felix Hill本科毕业于牛津大学数学系，后在剑桥大学取得语言学硕士和计算语言学博士学位。
他曾短暂担任高中数学老师，之后加入谷歌DeepMind，成为一名AI研究者，工作近八年。
消息传来，他的AI圈好友深感悲痛。Felix的葬礼将于1月11日在伦敦北部举行，并进行现场直播。
认识他的人纷纷留言，称赞Felix是一个超前于时代的特别之人。
最令人心碎的博客
是什么原因导致这位成果丰硕的AI学者英年早逝？
他生前的一篇博客揭示了诸多细节。
他在博客中详细描述了2023年母亲去世后，身处精神病院的自己症状加重，并在接下来的12个月内陷入极度焦虑和自杀的抑郁状态。
他坦言，自己最初投身AI研究并非为了金钱，但AI爆发后，仿佛被迫进入“战争”状态，论文、研究、创业都压力巨大，找不到出路。
即使积累了大量财富，内心仍饱受折磨。
文章地址：
英伟达高级研究者Jim Fan读后悲痛表示，这篇博客真实而深刻，令人心碎。
Jim Fan认为，AI不该是200B权重的压力和痛苦。他怀念曾经咖啡因带来的灵感，以及深夜探索arxiv的兴奋，但如今，资本和关注迫使所有人竞相逐底。
黄仁勋曾强调，避免“打败”等措辞，旨在提升生态，而非让任何人陷入深渊。AI学者的工作应是做大蛋糕，然后分配。
AI不是零和博弈，而是人类有史以来最大的正和博弈，大家应该向竞争对手传递爱意。
Jim Fan表示，虽未曾与Felix谋面，但欣赏他的研究品味，并为他的论文设置了提醒。“他本应成为一个很好的朋友，我想认识他，但现在已经不可能了。”
“安息吧，Felix。愿来世你无需再战斗。”
2000亿权重的责任：现代AI工作中的压力
Felix在其博客中回顾了AI爆火的几年，给生活带来的剧变——
过去两年，AI领域发生了巨大变化。
ChatGPT月活用户接近2亿，Gemini五月访问量接近3.2亿次，AI爱好者可以使用AI微波炉、牙刷甚至足球。
对AI从业者而言，这种大众兴趣的激增既是机遇也是挑战。
薪资和市值上涨，但也带来了独特的压力。
这篇博客探讨的是现代AI领域的压力，面向所有AI从业者，特别是研究人员，旨在通过讨论压力源，使大家生活得更快乐。
因为，尽管目前一片混乱，这仍然是一个充满机遇的职业，有潜力解决科学、哲学乃至人类的重大问题。
无处可逃
几个月前，Felix参加朋友的40岁生日派对时发现，大家对他DeepMind的工作非常感兴趣，而他却只想避开这个话题。
尽管他身体不适，但还是被大家包围着询问关于AI的问题。
他意识到过去两年发生了巨大变化，银行家、律师、医生和管理顾问都想了解ChatGPT。
作为研究人员，他感受到社交场合无法放松的压力，甚至在家中也难以安宁。
他早已不再看新闻，害怕引发焦虑，即使是看足球等休闲节目，广告中也充斥着AI内容。
他甚至幻想着逃离，但很可能连内观禅修都被AI渗透。
无形的竞争
几大公司竞相开发更强大LLM，这本身就令人压力巨大。
如今从事AI研究，如同参与一场战争，可能导致精神问题、离婚甚至自杀。
虽然并非真的战争，但这种类比非常真实。
关乎底线的工作
AI研究人员通常不习惯于自己的工作对雇主的底线产生直接影响。
过去，这种影响可能十年难遇，但现在，LLM研究结果的细微波动都可能导致股价数十亿美元的起伏。
这种动态令人倍感压力，是AI研究人员之前难以预料的。
钱，钱，还是钱
多数AI研究人员并非为了赚钱而投身研究，但高薪可能引发焦虑，特别是当收入增长不受自己控制，且对工作的热爱程度降低时。
突然积累财富可能导致成瘾、感情破裂甚至自杀等问题，Felix对此深有体会。
科学家角色缺失
LLM的规模、简单性和有效性使得做出“相关”的“科学研究”变得困难，这里的“相关”指的是能立即改进LLM。
许多研究人员认同Rich Sutton的“苦涩教训”：除了规模，几乎不需要创新。
实现创新需要反复训练最大规模的LLM，连大公司都难以负担，这让普通研究人员感到绝望。
对于习惯小团队工作的工业界科学家来说尚且如此，学术界情况更加严峻。
发表论文
学术界可以继续发表LLM实验见解，但工业界发表论文的问题更加复杂。
论文发表一直是AI研究的核心，但现在，工业界的研究成果是否能够发表越来越不确定。
能够改进LLM的技巧如同关键武器，是否公开需深思熟虑，这让研究人员对前途感到迷茫。
创业公司
规划科研方向、筹集资金成立创业公司是摆脱困扰的方法，但创业的压力也很大，即使资金充足的AI创业公司也可能失败。
创始人之路特别孤独，这并不会使研究变得容易，也不会减轻压力。
为什么要写关于压力的博客
过去两年，AI领域混乱而疯狂，Felix个人也经历了一段动荡时期。
2023年4月，母亲去世，当时他正在精神病院治疗，压力是诱因之一。
接下来的12个月，他陷入了极度焦虑和自杀倾向的抑郁状态。
幸好，他遇到了理解他并认可他价值的雇主，为他提供治疗和支持。
经过6个月的重度抑郁，他的情况开始好转，他觉得自己有能力写下这些经历。
他认识到压力和焦虑密不可分，虽然有时能提高生产力，但一旦失控，后果严重。
在重新学习如何成为AI研究员的过程中，回顾AI领域发展，让他获得了这篇博客的见解。
他希望通过分享经历，让大家意识到自己不是一个人在战斗。
社交焦虑
Felix还谈到了社交焦虑，这在大型项目团队和跨洲协作的现代AI领域尤其具有挑战性。
高人员流动率使团队如同“安全网”般解散，引发信任危机。
克服社交焦虑的第一步是建立以家人和非AI圈朋友为主的支持系统，第二步是进行关于压力的坦诚对话。
他邀请大家分享经历，将AI研究领域打造成充满活力、挑战、同理心和善意的温暖家园。
AI大佬发长文缅怀
Contextual AI首席执行官Douwe Kiela发文悼念Felix Hill，称他为亲爱的朋友，并在世界各地拥有众多朋友和同事。他的家人希望大家一起纪念他的一生。
EPFL教授、前DeepMind研究科学家Caglar Gulcehre表示，听到Felix离世的消息，令人心碎。他回忆第一次在蒙特利尔见到Felix，那时自己正经历抑郁症，并搬到一个新国家，感到不适应。他表示，Felix总是充满活力，但有时我们很难知道别人正在经历什么，因此多一份理解很重要。
他还分享了自己曾在DeepMind工作时遭遇家庭变故，并寻求专业帮助的经历，强调心理健康的重要性。他呼吁大家勇敢寻求帮助，并向Felix家人表达慰问。
DeepMind研究科学家Andrew Lampinen发文怀念导师Felix Hill，称他为出色的导师和冬泳伙伴，对他的研究方式影响深远。他表示，Felix在选择研究方向上有着超强的眼光，每当遇到新想法，总会表现出孩子般的热情和好奇心，与他共事令人备受启发。他也特别重视与他共事的每一个人。Andrew还提到Felix最近几年经历的艰难时期，以及最后一次聊天中Felix分享的一个疯狂项目想法，令他感到无比后悔没有及时跟进。
纽约大学计算机科学和数据科学教授Kyunghyun Cho发表长文“再见了，Felix”，缅怀逝者。他回忆了2014年初夏与Felix在蒙特利尔相识的场景，以及两人进行的学术探讨和研究合作。他分享了与Felix的一些趣事，包括两人在论文中加入“超级大表格”的习惯，以及在拉美人工智能会议上的遗憾错过。他还分享了Felix在2024年8月回复他的消息，并附上与他的一张合照（“Felix生成”的），唤起了美好回忆。他最后表达了对Felix离世的悲痛，愿他不再痛苦，在天国与母亲团聚。
文章地址：
这段文字写于2024年12月9日，因不愿接受事实，一直未能发布。选择在2024最后一天发布，以此缅怀Felix。
时间回到2014年初夏，当时Kyunghyun Cho在蒙特利尔大学担任博士后研究员，而Felix是一位访问学生。
那时Kyunghyun正在开发神经机器翻译系统，并尝试了各种方法。其中，他使用了门控卷积编码器替代RNN编码器。
当Felix以语言学家和计算机科学家的身份来到他办公室时，Kyunghyun兴奋地向他展示新模型揭示的可解释结构。
他展示了:
Felix非常肯定地说，“Kyunghyun，语法并不重要”。
那一刻，Kyunghyun预感到Felix会成为他最好的朋友之一，事实也证明如此。而这句话，也在往后几年里频频出现在他的学术演讲slides中。
在他们共度的时光里，除了进行深入有趣的哲学探讨，他们也展开了合作研究。
除了研究成果，他们还引领了从2016年开始持续3-5年的“超级大表格”潮流。当时在写“Learning distributed representations of sentences from unlabelled data”这篇论文时，他们放入了两个巨大的数据表格：
2018年初，Felix在ICLR论文集中发现了好几篇包含“超级大表格”的论文，这让他们哑然失笑。
即使在严谨的学术研究中，他们也保持着这种愉快的合作方式。
近十年后，Felix邀请Kyunghyun担任2023年拉美人工智能会议Khipu的演讲嘉宾。但2023年3月，Kyunghyun抵达蒙得维的亚参加Khipu时，发现Felix因健康问题未能到场。那时的他还不曾想到，这竟是最后一次机会与Felix相见。
Felix在2023年第二届Khipu上未领取的参会证件
2024年6月，Kyunghyun有机会造访伦敦，便给Felix发消息，期望与他共进午餐，并暗自期待能看到他康复的变化。
几个月后（2024年8月），Felix回复消息，并附上一张两人合影，唤起了上次在伦敦相聚的回忆。
左图：这是一张由Felix本人“生成”的与我的合影；右图：这是一张真实拍摄的Felix与我的合影
上周五，Kyunghyun收到了Douwe发来的WhatsApp消息。正是由于Felix在2014年的引荐，他才认识了Douwe，并与他建立了深厚的友谊。他尝试联系Felix，但均无法接通。
Kyunghyun最后说道，愿Felix现在已不再痛苦，在天国与母亲团聚。
参考资料：
本文来自微信公众号“新智元”，作者：新智元，36氪经授权发布。
