我的征尘是星辰大海。。。
The dirt and dust from my pilgrimage forms oceans of stars...
-------当记忆的篇章变得零碎,当追忆的图片变得模糊,我们只能求助于数字存储的永恒的回忆
作者:黄教授
手机视频列表
领悟到大模型公司的两个浅显的道理
视频
音频
原始脚本
今天我们聊透的核心本质是 AI 技术选择的底层逻辑,永远跟着应用需求走。 不是技术越高级越好,而是技术能不能最高效的满足场景需要。 我们可以把这些关键认知梳理成两个清晰的核心结论,帮你更直观的沉淀。 核心结论一,为什么 GPU 成了多场景通用选择?不是它在单场景最优,而是综合性价比最高。 企业选 GPU 本质是在避免重复投入和覆盖未来需求之间做平衡。 对既要做大语言模型、文字,又要做多模态图像视频的公司,比如 OpenAI、国内的字节、阿里。 TPU、NPU 确实在纯文字推理上更省能耗,但要额外处理图像,就需要再买图像专用芯片。 比如英伟达的 A100本身就擅长图像渲染。 与其买文字芯片加图像芯片两套设备,不如直接用用 GPU,一套硬件覆盖所有需求,反而省了硬件采 采购机房维护的成本,综合性价比更高。 对只做纯视觉的公司,比如特斯拉,做安防识别的海康。 GPU 的图像优化能力,比如并行处理像素,快速渲染多视角图,本就是为视觉设计的,比为文字优化的 TPU、NPU 更适配。 而且这些场景不需要文字语义,直接用 GPU 处理图像。 还能省掉文字绑定的额外计算开销,效率更直接。 核心结论二,AI 分纯感知派和语言加感知派,本质是场景要不要抽象语义。 两类技术路径没有高低之分,只有场景适配之分。 纯感知派跳过语言,只玩图像、声音,适配不需要理解意义,只需要识别生成感知规律的场景。 比如特斯拉自动驾驶,只需要识别前方是车、人、红绿灯的视觉特征,不用懂车这个词的语义。 安防抓逃犯,只需要比对人脸的视觉特征,不用绑定逃犯名字。 工业质检,只需要看产品有没有划痕的视觉特征,不用懂划痕的文字定义。 这类 场景的优势是链路短、开销小,不需要大语言模型的抽象能力,直接用视觉模型就能落地。 语言加感知派,文字和图像绑定,做多模态,适配需要抽象语义来联动感知的场景,比如 文生图,要理解一只会飞的猪的文字语义,再生成对应的图像。 图生文,要识别猫在追老鼠的图像,再用文字描述出来。 智能客服要同时理解用户的文字提问和发来的故障图片,再给解决方案。 这类场景需要语言作为桥梁来实现跨模态联动,所以必须绑定大语言模型,走更复杂但更智能的路径。 简单说,今天我们聊透的底层逻辑就一句话,AI 选什么技术,用什么硬件,从来不是看技术多先进,而是看场景要什么。 需要跨模态联动,就走语言加感知,只需要感知规律,就纯视觉学直脊,需要覆盖多场景,就选通用 GPU。 只聚焦单一场景,再选专用芯片。 这些看似粗浅的结论,恰恰是业界做技术落地时最核心的判断标准。
修正脚本
今天我们聊透的核心本质是 AI 技术选择的底层逻辑,永远跟着应用需求走。 不是技术越高级越好,而是技术能不能最高效的满足场景需要。 我们可以把这些关键认知梳理成两个清晰的核心结论,帮你更直观的沉淀。 核心结论一,为什么 GPU 成了多场景通用选择?不是它在单场景最优,而是综合性价比最高。 企业选 GPU 本质是在避免重复投入和覆盖未来需求之间做平衡。 对既要做大语言模型、文字,又要做多模态图像视频的公司,比如 OpenAI、国内的字节、阿里。 TPU、NPU 确实在纯文字推理上更省能耗,但要额外处理图像,就需要再买图像专用芯片。 比如英伟达的 A100本身就擅长图像渲染。 与其买文字芯片加图像芯片两套设备,不如直接用 GPU,一套硬件覆盖所有需求,反而省了硬件采购、机房维护的成本,综合性价比更高。 对只做纯视觉的公司,比如特斯拉,做安防识别的海康。 GPU 的图像优化能力,比如并行处理像素,快速渲染多视角图,本就是为视觉设计的,比为文字优化的 TPU、NPU 更适配。 而且这些场景不需要文字语义,直接用 GPU 处理图像。 还能省掉文字绑定的额外计算开销,效率更直接。 核心结论二,AI 分纯感知派和语言加感知派,本质是场景要不要抽象语义。 两类技术路径没有高低之分,只有场景适配之分。 纯感知派跳过语言,只玩图像、声音,适配不需要理解意义,只需要识别生成感知规律的场景。 比如特斯拉自动驾驶,只需要识别前方是车、人、红绿灯的视觉特征,不用懂车这个词的语义。 安防抓逃犯,只需要比对人脸的视觉特征,不用绑定逃犯名字。 工业质检,只需要看产品有没有划痕的视觉特征,不用懂划痕的文字定义。 这类场景的优势是链路短、开销小,不需要大语言模型的抽象能力,直接用视觉模型就能落地。 语言加感知派,文字和图像绑定,做多模态,适配需要抽象语义来联动感知的场景,比如文生图,要理解一只会飞的猪的文字语义,再生成对应的图像。 图生文,要识别猫在追老鼠的图像,再用文字描述出来。 智能客服要同时理解用户的文字提问和发来的故障图片,再给解决方案。 这类场景需要语言作为桥梁来实现跨模态联动,所以必须绑定大语言模型,走更复杂但更智能的路径。 简单说,今天我们聊透的底层逻辑就一句话,AI 选什么技术,用什么硬件,从来不是看技术多先进,而是看场景要什么。 需要跨模态联动,就走语言加感知,只需要感知规律,就纯视觉最直接,需要覆盖多场景,就选通用 GPU。 只聚焦单一场景,再选专用芯片。 这些看似粗浅的结论,恰恰是业界做技术落地时最核心的判断标准。
back to top