LLM带来的backend和infra机遇职场感言
估计这个话题已经讨论过了，就是LLM/generative AI带来我们backend/LLM的机遇？
我能想到的：
1. Modeling相关: 这个挺难，需要hands on的接触百亿级别param大模型的机会，估计一般人很难上手，未来也就是几个大公司。但是LLM是不是催生出其他的一些小点的model需求？
2. model相关的training inference infra. 这个同上。直接LLM training infra感觉需求也不太大？
3. Nvidia这种GPU公司，卖铲子的，稳赢必赚。不过他家职位感觉非常底层。
4. 绝大部分的AI integration，这个需求最大，比如prompt engineering，比如RAG。我看RAG做得如火如荼，又催生出各种vector similarity search，vector database的领域，感觉又带活了整个NLP领域。
5. genAI还可以有image，video，比如最近的runway很惊艳。所以什么CV，video infra也算是机会？
欢迎大家讨论补充。尤其有没有大牛已经身体力行跳去了LLM相关的infra和backend的可以现身说法指点一下？
我能想到的：
1. Modeling相关: 这个挺难，需要hands on的接触百亿级别param大模型的机会，估计一般人很难上手，未来也就是几个大公司。但是LLM是不是催生出其他的一些小点的model需求？
2. model相关的training inference infra. 这个同上。直接LLM training infra感觉需求也不太大？
3. Nvidia这种GPU公司，卖铲子的，稳赢必赚。不过他家职位感觉非常底层。
4. 绝大部分的AI integration，这个需求最大，比如prompt engineering，比如RAG。我看RAG做得如火如荼，又催生出各种vector similarity search，vector database的领域，感觉又带活了整个NLP领域。
5. genAI还可以有image，video，比如最近的runway很惊艳。所以什么CV，video infra也算是机会？
欢迎大家讨论补充。尤其有没有大牛已经身体力行跳去了LLM相关的infra和backend的可以现身说法指点一下？
已获得 10 大米
+2
共55条回复
✨ 您正在体验新版论坛UI
