公有云与私有化部署
两种形态可以同时用:大部分岗位走公有云,敏感岗位留在自己机房。

本课目标
读完这一课,你将能够
- 说出公有云模型与私有化部署各自适合什么岗位
- 判断一个岗位该走哪种形态,并说出这条线由谁来划
- 说出私有化部署需要准备什么
不是二选一
公有云模型和私有化部署,不是二选一。大部分岗位走公有云最划算;少数碰敏感数据的岗位,把模型留在自己机房里。两者在 Engine 的同一层里派发,对上面的流程没有区别。
| 公有云模型 | 私有化部署 | |
|---|---|---|
| 模型在哪 | 接入主流模型服务 | 你自己的机房或专属机器 |
| 适合的岗位 | 大多数岗位 | 涉密、涉客户隐私和受监管的岗位 |
| 好处 | 开箱即用,成本最低,迭代最快,跟得上每一代新模型 | 数据不出厂,网络可以断开对外,审计由你自己掌握 |
| 要准备什么 | 不用自己养机器 | 一台能跑模型的机器(通常带显卡)和公司内部访问得到它的网络 |
| 怎么计费 | 按用量 | 按机器 |
所以同一家公司,可以一部分岗位走公有云,一部分走私有化。一个岗位换形态,也只在 Engine 这一层调整,岗位、流程和资料都不用跟着动。
两种形态各有取舍。公有云省心、成本最低、跟得上每一代新模型,但模型在外部的服务里;私有化让数据不出厂、审计由自己掌握,但要自己准备能跑模型的机器。按岗位分开用,是让每个岗位只付它该付的那份代价。
这条线由谁来划
哪些岗位可以走公有云、哪些必须留在自己机房,这条线通常由合规和客户合同决定,不由技术决定。技术回答「能不能」,合规和合同回答「该不该」。
比如,写推文、回复常见问题的岗位,多半走公有云就够;经手涉密图纸、客户个人信息的岗位,就要多问几句。给每个岗位问四个问题:
- 它碰不碰涉密资料?
- 它处理的是不是客户的隐私信息?
- 它所在的业务受不受行业监管?
- 客户合同里有没有限制数据在哪里处理?
四个都答「否」,走公有云即可。任何一个答「是」,这个岗位就该认真考虑私有化,并和合规一起确认。
这样划下来,需要私有化的通常只是少数岗位,而不是整家公司。把线划在岗位上,既守住了该守的数据,也不让其余岗位跟着多花钱、多养机器。
私有化部署要准备什么
私有化部署需要两样东西:一台能跑模型的机器,通常带显卡;一个让公司内部访问得到它的网络。具体规格在部署评估时,按你的岗位量和响应要求给出。
这台机器可以只在公司内网里被访问,网络对外断开;数据不出厂,谁在什么时候用过它,审计记录也在你自己手里。
这件事不必 IT 一个人拍板:合规说清哪些数据不能出厂,业务说清每个岗位要多快、有多少,IT 再据此准备机器。
模型选型和私有化的范围,在部署评估的第一周就定得下来。已经采购或自建的模型,也可以接进来,和公有云模型一起按岗位派发。
这条线由合规和合同来划,不由技术来划。
要点
- 两种形态可以同时用:大部分岗位走公有云,碰敏感数据的岗位留在自己机房。
- 两者在 Engine 同一层派发,上面的流程看不出区别。
- 哪个岗位走哪种形态,由合规和客户合同决定,不由技术决定。
- 私有化要一台能跑模型的机器(通常带显卡)和内部网络;公有云按用量计费,私有化按机器计费。
练一练
给你部门的岗位划线
用四个问题,把每个岗位放到线的一边。
对部门的每个岗位问四个问题:涉密吗、涉客户隐私吗、受监管吗、合同有限制吗。
每一个答「是」的,找出依据:哪条制度、哪份合同、哪项监管要求。找不到依据的,再和合规确认一次。
如果有岗位要私有化,整理出岗位数量和对响应速度的要求,带到部署评估里。
小测
选一个答案,马上看解析。
Q1一个岗位走公有云还是私有化,通常由什么决定?
这条线通常由合规和客户合同决定,不由技术决定:技术回答能不能,合规和合同回答该不该。
Q2同一家公司能不能两种形态同时用?
不是二选一:大部分岗位走公有云,少数碰敏感数据的岗位留在自己机房,两者在 Engine 同一层派发。
Q3私有化部署至少要准备什么?
私有化需要一台能跑模型的机器和一个内部访问得到它的网络;具体规格在部署评估时按岗位量和响应要求给出。