公有云与私有化部署

第 3 课 · 共 4 课 约 8 分钟

两种形态可以同时用:大部分岗位走公有云,敏感岗位留在自己机房。

本课目标

读完这一课,你将能够

  • 说出公有云模型与私有化部署各自适合什么岗位
  • 判断一个岗位该走哪种形态,并说出这条线由谁来划
  • 说出私有化部署需要准备什么

不是二选一

公有云模型和私有化部署,不是二选一。大部分岗位走公有云最划算;少数碰敏感数据的岗位,把模型留在自己机房里。两者在 Engine 的同一层里派发,对上面的流程没有区别。

公有云模型私有化部署
模型在哪接入主流模型服务你自己的机房或专属机器
适合的岗位大多数岗位涉密、涉客户隐私和受监管的岗位
好处开箱即用,成本最低,迭代最快,跟得上每一代新模型数据不出厂,网络可以断开对外,审计由你自己掌握
要准备什么不用自己养机器一台能跑模型的机器(通常带显卡)和公司内部访问得到它的网络
怎么计费按用量按机器

所以同一家公司,可以一部分岗位走公有云,一部分走私有化。一个岗位换形态,也只在 Engine 这一层调整,岗位、流程和资料都不用跟着动。

两种形态各有取舍。公有云省心、成本最低、跟得上每一代新模型,但模型在外部的服务里;私有化让数据不出厂、审计由自己掌握,但要自己准备能跑模型的机器。按岗位分开用,是让每个岗位只付它该付的那份代价。

这条线由谁来划

哪些岗位可以走公有云、哪些必须留在自己机房,这条线通常由合规和客户合同决定,不由技术决定。技术回答「能不能」,合规和合同回答「该不该」。

比如,写推文、回复常见问题的岗位,多半走公有云就够;经手涉密图纸、客户个人信息的岗位,就要多问几句。给每个岗位问四个问题:

  • 它碰不碰涉密资料?
  • 它处理的是不是客户的隐私信息?
  • 它所在的业务受不受行业监管?
  • 客户合同里有没有限制数据在哪里处理?

四个都答「否」,走公有云即可。任何一个答「是」,这个岗位就该认真考虑私有化,并和合规一起确认。

这样划下来,需要私有化的通常只是少数岗位,而不是整家公司。把线划在岗位上,既守住了该守的数据,也不让其余岗位跟着多花钱、多养机器。

私有化部署要准备什么

私有化部署需要两样东西:一台能跑模型的机器,通常带显卡;一个让公司内部访问得到它的网络。具体规格在部署评估时,按你的岗位量和响应要求给出。

这台机器可以只在公司内网里被访问,网络对外断开;数据不出厂,谁在什么时候用过它,审计记录也在你自己手里。

这件事不必 IT 一个人拍板:合规说清哪些数据不能出厂,业务说清每个岗位要多快、有多少,IT 再据此准备机器。

模型选型和私有化的范围,在部署评估的第一周就定得下来。已经采购或自建的模型,也可以接进来,和公有云模型一起按岗位派发。

这条线由合规和合同来划,不由技术来划。

要点

  • 两种形态可以同时用:大部分岗位走公有云,碰敏感数据的岗位留在自己机房。
  • 两者在 Engine 同一层派发,上面的流程看不出区别。
  • 哪个岗位走哪种形态,由合规和客户合同决定,不由技术决定。
  • 私有化要一台能跑模型的机器(通常带显卡)和内部网络;公有云按用量计费,私有化按机器计费。

练一练

给你部门的岗位划线

用四个问题,把每个岗位放到线的一边。

对部门的每个岗位问四个问题:涉密吗、涉客户隐私吗、受监管吗、合同有限制吗。

小测

选一个答案,马上看解析。

Q1一个岗位走公有云还是私有化,通常由什么决定?

Q2同一家公司能不能两种形态同时用?

Q3私有化部署至少要准备什么?

延伸阅读