AI从业者的感受分享职场感言
这两天Block如此大规模裁员，或许会引发华尔街投资人大规模效仿，深远影响整个行业和硅谷从业者，我们的确处于一个新的历史奇点上。我看大家讨论的如火如荼，所以也想分享一下自己的想法。我平常只阅读一亩三分地但基本不回复，所以专门注册一个号，希望大家能多多加米！
经历分享
我坐标某主流大厂AI Engineer。我的生活职业和生活理念就是不断追逐前沿，不求多成功，但求一个参与感。所以基本上三年前OpenAI刚火的时候，我就抓住机会到Applied GenAI组。现在回想起来，当时整个业界还有我们IC都懵懵懂懂的，理智上清楚这是划时代的时间点，但公司以及个人如何发展只能摸着石头过河，也没想到GenAI会如此迅速的带来如此巨大的全行业disruption。我记得当时一亩三分地里就有第一批LLM吃螃蟹的大佬们分享经验，比如LLM带来的backend和infra机遇|一亩三分地职场达人版。大家都讨论着哪里可以谋求LLM training的机会，真是想多了。我那时候高山仰止的看着LLM training researcher的大佬们，觉得自己只是个小RAG boy而叹气，哈哈。当然我现在不这么想了。
1) 目前GenAI行业IC从业者，无论title是MLE还是AI Engineer，基本上还是遵循：
Elite/个人薪资/入坑难度: Researcher > LLM training > LLM inference > Applied GenAI
行业机遇倒过来：Applied GenAI > LLM inference > LLM training > Researcher
Researcher需求量很少，LLM training需求量也少因为没几家做foundation model (当然post-training可能另当别论)，进入这俩领域都要一定历史机遇。未来的致富机会当然在Applied GenAI，因为每一家公司都会有proprietary data，都会有整合GenAI的customized needs。需求无限大，还可以往business sense发展。另外做Applied GenAI多少还是会接触到model serving，所以转型LLM inference也不困难，我在公司内部也有相关机会；不过我个人兴趣在knowledge grounding & agent，而LLM inference做资深需要深钻GPU optimization etc, 我总觉得又把职业道路走窄了。
2) 目前Applied GenAI说白了就两大核心: RAG/Context Engineering + Agent。23-24年是RAG；25年开始Agent崛起。
目前RAG，或者一个更好的名字Context Engineering，毋庸置疑是这个领域的业界标配。最重要的是，基于我在业界的感受，真实业界场景的Context Engineering非常困难，根本不像一亩三分地里讨论的好像没技术含量。一个单日百亿级别data ingestion的全流程系统，从embedding gen到indexing到storage到search到query/ranking都要low-latency，high availability以及最终的high recall，实在是有太多infra工程优化以及ops dirty work了。而这个领域还在变出各种各样的新算法花样，然后Agent到来进一步需要loop retrieval，极大提高了系统复杂度，所以Agentic Context Engineering对于系统指标提出更高的要求。所以我的深刻感受就是，这个领域未来拼得就是AI infra或者AI system；以后foundation model水平饱和后，你的产品要落地赚钱，灵魂还是整个AI系统，还是工程水平。之前OpenAI 翁家翌：OpenAI，GPT，强化学习，Infra，后训练，天授，tuixue，开源，CMU，清华｜WhynotTV Podcast #4_哔哩哔哩_bilibili 提高哪怕LLM foundation model training他也觉得核心竞争力是infra。我觉得非常赞同。GenAI时代，好的工程能力还是非常非常valueable的。
所以我在组里做了三年，整个大组非常非常辛苦，很缺人，evolve的非常快，上一个project还没做完，又来了新的技术，要么是来自于公司researcher的提议，要么是来自产品竞争对手的压力。感觉目前整个业界还是处于一个小马过河，不断尝试不断exploration的阶段。
3) AI Dev的感受
AI tool比如Claude写码能力是没啥质疑的，的确提高productivity。但是我感觉很多复杂需求，prompt稍微不精确可能code就不是我想要的。所以需要我们花心思写非常accurate的prompt以及不停revise，所以这个角度感觉还是花了不少时间？
另外我们的oncall也已经automate，但前提是写非常详尽的oncall document。但一方面不断更新doc也很花时间；另外一方面也总会遇到新的问题，所以我觉得还是需要人类智慧来做复杂的investigation。
至于system design，以及客户需求，这个就是以后我们吃饭的核心技能了。业界非常复杂的系统，尤其GenAI系统的设计，AI目前只是一个tool，至少现在我不觉得能够完全替代工程师。
行业未来
第一，这个行业未来需要的码农数量肯定大量减少，大家做好心理准备。
第二，根据我在业界的切身感受，GenAI领域尤其应用领域很火热很缺人，或许未来我们都是AI Engineer？所以赶紧往AI转往infra和system转，至少现在我觉得复杂AI系统还是很难被AI取代。
第三，企业彻底AI化其实会有很大的风险，AI code的bug，不确定性，以及ops都是问题，我很难想象可以全部被机器代替，毕竟这个世界还是要人来负责的。Block未来发展怎样还是要持续观察，或若干年后看是一个反面例子呢？
第四，现在冲击最多的是enterprise SAAS company，因为白领员工数量减少的状况下，过去headcount-based的订阅赚钱扩张模式没有了。但或许SAAS公司以后会从headcount count变成workload count？虽然员工数量减少，但软件工作量和业绩还是一样呀，所以还是要pay一样的钱。
第五，AI + 垂直领域domain knowledge或许值得去挖掘。
第六，非常确定的是，AI给所有白领包括工程师赋能，以后一人公司会越来越多。开发成本降低，或许会激发更多的软件开发需求；同时会利好有business sense的人。我觉得工程师不能埋头做技术，而要去学习business，毕竟我们的目标还是赚钱。
所以我个人对未来是保持乐观态度的。现在的确处于阵痛期，但我相信每一次工业革命都会带来新的机遇。
最后，我这是新注册的账号，各位看官如果觉得我写的还可以，麻烦给点米！谢谢！
Build任何大规模（比如100M user）的GenAI应用系统都无比具有挑战性，绝对不是靠AI tool就可以自动完成的。需要优秀的工程团队。
Scale matters！设计/维护高性能大规模的AI system的能力会是我们的看家本领。
经历分享
我坐标某主流大厂AI Engineer。我的生活职业和生活理念就是不断追逐前沿，不求多成功，但求一个参与感。所以基本上三年前OpenAI刚火的时候，我就抓住机会到Applied GenAI组。现在回想起来，当时整个业界还有我们IC都懵懵懂懂的，理智上清楚这是划时代的时间点，但公司以及个人如何发展只能摸着石头过河，也没想到GenAI会如此迅速的带来如此巨大的全行业disruption。我记得当时一亩三分地里就有第一批LLM吃螃蟹的大佬们分享经验，比如LLM带来的backend和infra机遇|一亩三分地职场达人版。大家都讨论着哪里可以谋求LLM training的机会，真是想多了。我那时候高山仰止的看着LLM training researcher的大佬们，觉得自己只是个小RAG boy而叹气，哈哈。当然我现在不这么想了。
1) 目前GenAI行业IC从业者，无论title是MLE还是AI Engineer，基本上还是遵循：
Elite/个人薪资/入坑难度: Researcher > LLM training > LLM inference > Applied GenAI
行业机遇倒过来：Applied GenAI > LLM inference > LLM training > Researcher
Researcher需求量很少，LLM training需求量也少因为没几家做foundation model (当然post-training可能另当别论)，进入这俩领域都要一定历史机遇。未来的致富机会当然在Applied GenAI，因为每一家公司都会有proprietary data，都会有整合GenAI的customized needs。需求无限大，还可以往business sense发展。另外做Applied GenAI多少还是会接触到model serving，所以转型LLM inference也不困难，我在公司内部也有相关机会；不过我个人兴趣在knowledge grounding & agent，而LLM inference做资深需要深钻GPU optimization etc, 我总觉得又把职业道路走窄了。
2) 目前Applied GenAI说白了就两大核心: RAG/Context Engineering + Agent。23-24年是RAG；25年开始Agent崛起。
目前RAG，或者一个更好的名字Context Engineering，毋庸置疑是这个领域的业界标配。最重要的是，基于我在业界的感受，真实业界场景的Context Engineering非常困难，根本不像一亩三分地里讨论的好像没技术含量。一个单日百亿级别data ingestion的全流程系统，从embedding gen到indexing到storage到search到query/ranking都要low-latency，high availability以及最终的high recall，实在是有太多infra工程优化以及ops dirty work了。而这个领域还在变出各种各样的新算法花样，然后Agent到来进一步需要loop retrieval，极大提高了系统复杂度，所以Agentic Context Engineering对于系统指标提出更高的要求。所以我的深刻感受就是，这个领域未来拼得就是AI infra或者AI system；以后foundation model水平饱和后，你的产品要落地赚钱，灵魂还是整个AI系统，还是工程水平。之前OpenAI 翁家翌：OpenAI，GPT，强化学习，Infra，后训练，天授，tuixue，开源，CMU，清华｜WhynotTV Podcast #4_哔哩哔哩_bilibili 提高哪怕LLM foundation model training他也觉得核心竞争力是infra。我觉得非常赞同。GenAI时代，好的工程能力还是非常非常valueable的。
所以我在组里做了三年，整个大组非常非常辛苦，很缺人，evolve的非常快，上一个project还没做完，又来了新的技术，要么是来自于公司researcher的提议，要么是来自产品竞争对手的压力。感觉目前整个业界还是处于一个小马过河，不断尝试不断exploration的阶段。
3) AI Dev的感受
AI tool比如Claude写码能力是没啥质疑的，的确提高productivity。但是我感觉很多复杂需求，prompt稍微不精确可能code就不是我想要的。所以需要我们花心思写非常accurate的prompt以及不停revise，所以这个角度感觉还是花了不少时间？
另外我们的oncall也已经automate，但前提是写非常详尽的oncall document。但一方面不断更新doc也很花时间；另外一方面也总会遇到新的问题，所以我觉得还是需要人类智慧来做复杂的investigation。
至于system design，以及客户需求，这个就是以后我们吃饭的核心技能了。业界非常复杂的系统，尤其GenAI系统的设计，AI目前只是一个tool，至少现在我不觉得能够完全替代工程师。
行业未来
第一，这个行业未来需要的码农数量肯定大量减少，大家做好心理准备。
第二，根据我在业界的切身感受，GenAI领域尤其应用领域很火热很缺人，或许未来我们都是AI Engineer？所以赶紧往AI转往infra和system转，至少现在我觉得复杂AI系统还是很难被AI取代。
第三，企业彻底AI化其实会有很大的风险，AI code的bug，不确定性，以及ops都是问题，我很难想象可以全部被机器代替，毕竟这个世界还是要人来负责的。Block未来发展怎样还是要持续观察，或若干年后看是一个反面例子呢？
第四，现在冲击最多的是enterprise SAAS company，因为白领员工数量减少的状况下，过去headcount-based的订阅赚钱扩张模式没有了。但或许SAAS公司以后会从headcount count变成workload count？虽然员工数量减少，但软件工作量和业绩还是一样呀，所以还是要pay一样的钱。
第五，AI + 垂直领域domain knowledge或许值得去挖掘。
第六，非常确定的是，AI给所有白领包括工程师赋能，以后一人公司会越来越多。开发成本降低，或许会激发更多的软件开发需求；同时会利好有business sense的人。我觉得工程师不能埋头做技术，而要去学习business，毕竟我们的目标还是赚钱。
所以我个人对未来是保持乐观态度的。现在的确处于阵痛期，但我相信每一次工业革命都会带来新的机遇。
最后，我这是新注册的账号，各位看官如果觉得我写的还可以，麻烦给点米！谢谢！
补充内容
我工作中体会最深take-home-message：Build任何大规模（比如100M user）的GenAI应用系统都无比具有挑战性，绝对不是靠AI tool就可以自动完成的。需要优秀的工程团队。
Scale matters！设计/维护高性能大规模的AI system的能力会是我们的看家本领。
已获得 105 大米
+2
共52条回复
✨ 您正在体验新版论坛UI
