今天是8月15日,在高铁上,看了很多篇文章,也加上对我七月的小小的,迟到的总结。

还是逐个过一下吧,如果未来的自己会为此迷茫的话,我想,这会成为照亮未来的一盏灯。

很多时候我们并不需要一个太阳,不需要一个彻底清醒的目标。也许我们只需要,对这个世界的真实了解地更多一点。要相信其它都是自然而然地,spontaneously。

七月的总结

一个好消息,就是现在放假了。但是七月尤其煎熬。好不容易凭借着强大的意志力能够拿下大唐杯的国一,三天一门考试,两天刷完300面课本。虽然刺激,但是这么多的课程,也着实磨灭了很多的心气。

(26 封私信 / 80 条消息) 如何最高效提升个人专注力和执行力? - 知乎
事实是,我遇到了太多的干扰,然后我看了一篇文章。我想按照里面说的,分个类。

分类-垃圾进程

  1. 看某些群里没营养的信息,觉得自己当仁不让却是没有营养的营销号
  2. 对于成绩和未来的担忧,对于政策的一些盘算,很多的算计
  3. 互虐的亲密关系,不以使得自己变好为前提的。

一个自制力的model

(26 封私信 / 80 条消息) 如何提高自制力? - 知乎

实际上没有看完,但是感觉很伟大,所以记录了下来。

绝望到希望

(26 封私信 / 80 条消息) 我的硕士三年:从绝望到希望;以及账号暂时停更公告 - 知乎

老师玩了一招移花接木,先让唯一有资格的导师把信通学生招进来,再把学生重新分配给其他人。并且如果他想要自由,代价是一篇A会,不然实习都不可能。

这个学长,完完全全被欺骗,没有从事到本专业有关的事情。他干了一件非常疯狂地事情,他决定自己开始自己地AI research。

如何才能从绝望之谷,爬向希望之坡呢。不惜一切代价,不要畏手畏脚。他掏空家底——自己和家庭的家底,买了一台4卡3090的服务器。放在自己的家里,电费和噪音都是不敢想象的。

说实话,我很享受理解不懂的知识的通透感,例如看懂一个公式,或者弄懂开源代码的整体逻辑。我的工程能力在那时候也得到了提升,因为除了阅读论文外,我看的最多的就是开源仓库,并且每次都尝试去理解每一行代码在干什么。那个时候最喜欢干的就是看哪个大公司发布了新的代码仓库,就去学习他们写训练框架和模型结构的方法。而且,一旦停下来玩十几分钟,就感觉到愧疚,想要继续投入到学习中去。

博主的其它文章:
(26 封私信 / 80 条消息) 用极小模型复现R1思维链的失败感悟 - 知乎
(26 封私信 / 80 条消息) 我的2025小结:从RL到Agentic RL - 知乎
(26 封私信 / 80 条消息) 如何评价AAAI 2026审稿意见? - 知乎

这看起来是个上扬结局?也不完全是,虽然我能够顺利毕业,也找到了工作,但硕士期间对我的伤害是不可逆转的,即使现在已经恢复许多。很多人说这样的经历可以锻炼一个人,虽说我的能力确实得到了严格的提升,但我的心气被消磨的厉害,我现在也无法回到我复现R1的时候的状态,那个时候,似乎有用不完的动力去学习新的知识和技术。

这其实是一场梭哈的豪赌,我没有给自己留后路。而最后能走出来真的有很多运气的成分,各位看很多关键的转折点就知道,缺少运气的话,根本不会成。所以如果有人也想这么赌,我只能说慎重,然后给自己多一些备选方案吧。

其实是本人确实已经对学界心灰意冷了。要说的话,我现在还真是AI for Science圣体,因为误入做材料的课题组确实被迫学了不少材料相关的知识,然后AI方面的东西也算了解的比较多,那篇AAAI也确实让我独自跑通了交叉领域发paper的全流程,但。。。我的经历让我不想再留在学界了。

scaling的代价

(26 封私信 / 80 条消息) claude的参数都达到25t了,为何国产模型最多还只有1t? - 知乎

我可以直接断言 Anthropic 这种行为是不可持续且迟早会遇到灾难的,在这个视角上国产模型比 Claude 聪明的多。

这个博主用数学的方法分析Claude的不可持续,然而我们目前看到的,似乎是Claude的预训练比GPT的后训练有用一些。

然而,引用一位智者的话。当一个东西本身scaling就要付出巨大代价与巨大成本的话,这个东西就一定出问题了,而且一定不可持续。

新生的科研潜力,良好习惯

(26 封私信 / 80 条消息) 怎么知道一名研究生有没有科研潜力? - 知乎

看看他在面对不确定性时的本能反应。

科研的本质就是在一个没有答案的荒原里找路。在本科阶段,你面对的所有问题都是有标准答案的,不管是期末考试还是课程设计,哪怕题目再难,你心里清楚肯定有一个解法在那里等你。但是到了研究生阶段,尤其是在现在这种技术迭代按天计算的领域,你面临的课题很可能根本就是一个伪命题。

而那个真正有潜力的学生,他当然也会羡慕,也会焦虑,但他内心的核心驱动力不是外界的评价,而是那个尚未解开的科学谜题本身。当他深夜坐在屏幕前,看着一行行滚动的数据,看到那个困扰了他几个月的bug终于被修复,模型跑出了预期甚至超出预期的结果时,那种从脊椎底端直冲大脑的纯粹的智力快感,是任何金钱和荣誉都无法替代的。

所以,怎么知道一名研究生有没有科研潜力。抛开所有外在的伪装、工具的加持和简历的包装。你只需要在他疲惫、沮丧、所有的外在激励都失效的那个深夜去观察他。

看他是不是依然愿意紧皱着眉头,死死盯着屏幕上那堆乱码般的数据,非要把这个折磨人的问题给彻底弄清楚。

博主推荐了一本书:
写给社科生的高维武器——《基本无害的计量经济学》

学术小白的一些建议

(26 封私信 / 80 条消息) 对 PhD 一年级新生有什么建议? - 知乎

你必须认清一个残酷的现实,很多高校教授的知识体系已经严重老化了。这并不怪他们,现在的技术爆发速度超出了所有人的预期,两三个月就是一次重大的路线迭代。你的导师可能在五年前甚至十年前是某个传统领域的顶尖专家,发过无数影响因子很高的文章。但他现在极有可能不知道最新一代架构的具体实现细节,他脑子里可能还停留在单机单卡跑两天的作坊时代。

如果你的导师是个纯放养型的,只要你按时产出就不管你的具体路径,那你算是非常幸运的,你至少可以自由探索,自己对自己的结果负责。但如果你的导师是个强控制欲且不懂装懂的微操大师,你博一这一年将会无比痛苦。他会不断给你拍脑袋指派各种脱离现实根本无法实现的宏大任务,逼着你去跟拥有万卡集群的大厂拼算力,最后你浪费了半年时间只得到一堆烂代码和无效的实验日志。

你必须学会在专业上建立自己的壁垒,从而在导师面前拿到话语权。不要每次组会汇报都只拿一些干瘪的跑分结果去糊弄,也不要只会一味地在背后抱怨课题做不出来。你需要把行业最前沿的发展趋势、具体的资源消耗评估、以及你的可行性验证方案做成逻辑严密、数据详实的报告去说服他。

我带过的一个实习生在这个方面做得相当出色,堪称教科书级别的向上管理。他的导师非要让他去复现一个根本不可能在他们实验室几台破旧服务器上完成的大型基础模型实验,仅仅是因为导师想拿这个所谓的前沿方向去申请一个国家级的科研项目资金。

这个学生没有直接在组会上跟导师硬顶,也没有为了保命去消极怠工。他默默花了一周时间,详尽地列出了该实验所需要的真实机器租赁成本、漫长的数据预处理周期、以及一旦失败的沉没成本。他对比了其他几家头部机构类似研究的庞大人力财力投入,做成了一份精美的对比表格。

紧接着,最关键的一步来了。他没有停留在证明这件事做不成,而是给出了一个高性价比的替代方案。他建议利用导师现有的局部计算资源,去做一个该模型在特定医疗垂直领域的小样本对齐微调,并且他已经偷偷熬夜通过小规模验证跑通了流程,展示了初步的优异结果。

这份报告有理有据,成本核算精准,退路和收益异常清晰。他的导师看完之后立刻改变了主意,不仅大力支持了他的新方向,觉得这个方向更容易出文章,还破天荒地去帮他跟其他课题组借了算力卡。

推荐书:字节内部大模型微调实践手册.pdf

还有一些

现在的注意力有些涣散了,精神的独立不是一朝一夕的,只是,还有些文章值得反复观看:
1.不必讨好谁,不必畏惧谁,更不必刻意证明什么。不是一种消极避世,而是对于事实的清醒。我一句两句,坚持自己,没有遵守所谓老师的意见,不一定是一件坏事。我不能从他那里得到很多,不听两句我的生活不一定完全过不下去。
(26 封私信 / 80 条消息) 如何锻炼不紧张的能力? - 知乎

2.不论身处哪个阶层,即便拥有再优越的背景、出身、天赋或机遇,都必须始终保持积极向上的心态。唯此,才能承载得住命运所赋予的一切。
(26 封私信 / 80 条消息) 我把这些天机泄露给你,能悟到多少就看缘分了! - 知乎
整体是很正能量的,但里面的一些内容需要去悟。

3.动机/环境,以及知乎的很多探索生命的旅途上,同行的人
(26 封私信 / 80 条消息) 普通人如何在不逼疯自己的前提下,一步步变强? - 知乎

4.一个chrome的插件,统计自己是否分心,是否专注。
(26 封私信 / 80 条消息) AI Works - 脑力守护 Brain Protector - 知乎

5.输出型爱好
(26 封私信 / 80 条消息) 年轻的时候做什么事情对后半生有巨大的好处? - 知乎

6.改变自己
(26 封私信 / 80 条消息) 怎样彻底改变自己? - 知乎

7.(26 封私信 / 80 条消息) 何恺明NeurIPS 2025演讲:目标检测的三十年传奇 - 知乎

博主推荐了一本书:
写给社科生的高维武器——《基本无害的计量经济学》
字节内部大模型微调实践手册.pdf