《连线》曾在一篇报道中将 Alec Radford 在 OpenAI 表演的脚色，比作 Larry Page 发现 PageRank。PageRank 彻底改革了互联网搜寻方法，Radford 的任务（特殊是在 Transformer 跟厥后的 GPT 方面的研讨）从基本上转变了 AI 言语模子的任务方法。多少天前，OpenAI 发布构造构造调剂，裂酿成了一家营利性公司跟一个非营利构造。与此同时，OpenAI CEO 山姆・奥特曼在 X 上用一个系列推文感激了 OpenAI 的多位元老。之后，他又独自发了一条推文对一位「爱因斯坦级其余蠢才」表白了特殊感激：Alec Radford。奥特曼还表现 Radford 是他始终以来最爱好的人，并指出 AI 范畴当今的提高良多都能够追溯到他的研讨结果。上个月 20 号，传出了 Radford 行将分开 OpenAI 停止自力研讨的新闻，概况可参阅呆板之心的报道《刚，OpenAI 元老级研讨员 Alec Radford 离任，他主导了 GPT-1、GPT-2 的研发》。依据谷歌学术的数据，Alec Radford 论文的援用量当初曾经超越了 19 万，并领有多篇超越 1 万援用的主要论文。现实上，早在一年多从前，就曾经有人指出了这位事先还申明不显的研讨者的宏大奉献：他是 GPT 原始论文等多篇奠定性研讨结果的第一作者！而更让人惊奇的是，他并不博士学位，也不硕士学位；而且他的很多研讨结果最早都是在 Jupyter Notebook 中实现的。新年伊始，Alec Radford 的故事又再一次火遍了 AI 交际收集。人们在谈到他时莫不称赞。上面咱们就来简略懂得下这位谦虚的蠢才的人生故事吧。Alec Radford 的人生故事Alec Radford 是天然言语处置跟盘算机视觉范畴的研讨者。曾在 OpenAI 担负呆板进修开辟者 / 研讨员。在此之前，他曾担负 indico 公司的研讨主管。在 OpenAI 担负研讨员时期，他参加撰写了多篇对于言语模子天生式预练习（GPT）的论文，并在 NeurIPS、ICLR、ICML 跟 Nature 等有名集会跟期刊上宣布过很多论文。 他也曾活泼在 X/Twitter 上，在那边分享他对人工智能各个范畴的看法跟观念。遗憾的是，2021 年 5 月之后他就再未在 X 上现身，最后一条推文是在复兴 Anthropic 的研讨者 Simon Kornblith，说明 GPT-1 层宽度设置为 768 的起因。LinkedIn 表现，2011 年 - 2016 年， Alec Radford 就读于富兰克林・W・奥林工程学院，并取得学士学位。这是一所位于美国马萨诸塞州尼达姆（Needham）的私破工程学院，以其十分低的登科率跟精英化教导著称。该校的课程构造十分奇特，其学术系统「欧林三角」包含迷信跟工程基本、创业以及文学。黉舍也仅供给四种学位：ME（机器工程）、ECE（电子与盘算机工程）、CS（盘算机迷信）、BCE（生物医药工程）。奥林工程学院十分器重适用教导，将常识跟现实生涯中的挑衅跟课题接洽起来，激励先生寻求本人的兴致跟豪情。本科时代，Alec Radford 就对呆板进修充斥热忱，并与同窗一同加入 Kaggle 竞赛取得了胜利，终极拿到风投 。2013 年，Alec Radford 跟搭档在宿舍创建了 indico ，为企业供给呆板进修处理计划。作为公司的研讨主管，Alec Radford 重要从事辨认、开辟跟改良有远景的图像跟文本呆板进修技巧，并将其从研讨阶段转化为更普遍的行业利用。在那边，他停止了天生抗衡收集（GAN）相干研讨，并提出 DCGAN 以改良 GAN 的可练习性，这也是 GAN 范畴的一个主要冲破。 因为波士顿地域在 AI 范畴的影响力已被西海岸科技巨子超出，加上资本限度，2016 年，Radford 抉择参加 OpenAI 。他描述这份新任务「相似于参加研讨生课程」，有一个开放、高压力的 AI 研讨情况。Radford 比拟低调，不肯与媒体打仗。他经由过程邮件回应了《连线》对于他在 OpenAI 晚期任务的发问。他表现，最感兴致的是让神经收集与人类停止清楚的对话。他以为，事先的谈天呆板人（从 ELIZA 到 Siri 跟 Alexa）都存在范围性。他的目的是摸索言语模子在种种义务、设置、范畴跟场景中的利用可能。他的第一个试验是应用 20 亿条 Reddit 批评来练习言语模子，固然掉败，但 OpenAI 赐与了充足的试错空间，也成为后续一系列反动性冲破的开端，如各人熟知的初代 GPT，还主导了 GPT-2 的研发等。这些任务为古代年夜言语模子奠基了主要基本，以至于《连线》在一篇报道中将 Alec Radford 在 OpenAI 表演的脚色，比作 Larry Page 发现 PageRank。风趣的是， PageRank 固然是 Larry Page 在斯坦福攻读博士时期的产品，但他尔后再也不归去实现博士学位。不只如斯，Alec Radford 还参加了 GPT-3 论文的撰写、以及 GPT-4 的预练习数据跟架构研讨任务。2024 年岁终，在 OpenAI 赚尽眼球的 12 天连发的最后一天前，Alec Radford 行将分开 OpenAI 的新闻传出，但不任何新闻流露这能否与 OpenAI 的构造构造调剂有关。遗憾的是，对他之后的职业打算，咱们所知的仅仅是他将成为一位自力研讨者。或者他将进入年夜学取得一个博士学位，也或者他会在沉静一段时光之后带着新的震动性研讨结果问世。不论怎么，Alec Radford 参加发明的将来正在到来。无论往年能否会如奥特曼已经猜测的那样实现 AGI，2025 年注定会是 AI 范畴至关主要的一年。© THE END 转载请接洽本大众号取得受权投稿或追求报道：[email protected] ]article_adlist--> 　　申明：新浪网独家稿件，未经受权制止转载。 -->