看板 MobileComm
※ [本文轉錄自 iOS 看板 #1cRPz6l6 ] 作者: gary8442 (起秋風) 看板: iOS 標題: Re: [新聞] 蘋果AI為何限制iPhone 15 Pro以上機型? 時間: Sat Jun 15 22:03:48 2024 極客灣: 在WWDC的現場,跟蘋果的同學稍微了解了一下AI(Apple Intelligence)的細節。 蘋果AI有手機平板電腦本機計算的,也有用雲端伺服器的 (蘋果官方叫Private Cloud Comp ute),蘋果會有一套演算法來判斷用本機還是用雲端。 比如像AI畫圖,生成表情包,模型只有3b參數非常小,就是調用本機硬體。而筆記摘要修飾 郵件等文字處理,以及Siri的其中一些AI特性,使用大的模型效果會好很多,就會上雲端處 理。 由於需要8G記憶體,所以蘋果AI最低只支援A17Pro的iPhone和M1的iPad。 那本機性能不達標的舊iPhone/iPad可不可以用那些上雲端處理的場景呢? 答案也是不行的,因為他們認為這些設備沒辦法做這個【本機or雲端】的判斷。 蘋果AI整體我是覺得意料之中。不過蘋果的優勢就在於他對開發者比較強勢,執行力還可以 ,我肯定希望第三方開發者能盡快去用蘋果給的AI介面,如果能起到一個info hub的作用, 整合各家敵對App的資訊來提供便利性,比如讓Siri抓一個微信提到的地址填在淘寶裡,這 就有點意思了(狗頭 ___ >畫重點 RAM不夠 or NPU性能不夠的機型 ex: iPhone 15/Plus , iPhone 14Pro/max....,iPad Pro2020, iPad mini6 ...., iPad Air4, iPad10....以下略 也沒辦法用 Apple 雲端AI 因為蘋果認為這些設備沒辦法做「本機or雲端」的判斷,因此無法用雲端處理AI。 https://i.imgur.com/bHT63M2.jpeg
出處: https://www.bilibili.com/opus/942404073486811171 -- ※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.200.8.187 (臺灣) ※ 文章網址: https://www.ptt.cc/bbs/iOS/M.1718460230.A.BC6.html ※ 發信站: 批踢踢實業坊(ptt.cc) ※ 轉錄者: gary8442 (1.200.8.187 臺灣), 06/15/2024 22:10:23
aa1477888 : 要做或不要做而已 A11之後架構全都一樣06/15 22:17
aa1477888 : 就是個唬爛的理由要你買新品06/15 22:18
aa1477888 : 判斷是軟體的功能 就是不下放 你能奈我何?06/15 22:18
gary8442 : 蘋果言下之意是原來A11~A16 NPU都廢物喔 笑死06/15 22:21
Chricey : 維生素C 06/15 22:46
gary8442 : 連判斷要不要用雲端都辦不到xd06/15 22:21
joy159357 : 低階用戶不配阿 很好懂06/15 22:22
flyin314 : 想要新玩意就得乖乖掏出錢 06/15 22:26
Chricey : 益生菌 06/15 23:01
aegis43210 : 只是差異化的藉口,但果粉也不在意,買新的就對了06/15 22:27
aa1477888 : 實際理由就兩個:06/15 22:30
aa1477888 : 1舊機RAM不夠 2.蘋果雲端基礎建設不夠06/15 22:30
Kroner : 魚油推薦 06/15 23:07
aa1477888 : AI運算吃RAM大家都知道 i15P才有8GB 06/15 22:30
aa1477888 : 導致這之前的6GB RAM產品全都變廢物06/15 22:30
aa1477888 : 但變廢物無所謂 大不了算慢一點06/15 22:30
Chricey : 魚油推薦 06/15 23:10
aa1477888 : 但蘋果選擇這種本地、雲端雙軌的切換模式06/15 22:30
aa1477888 : 你下放給舊機做切換判斷會發生什麼事情?06/15 22:30
aa1477888 : 那就是一堆RAM不夠的舊機將大量存取雲端資源06/15 22:30
Chricey : 吃B群的好處 06/15 23:13
aa1477888 : 但蘋果雲端基建還不夠 這些裝置全湧進來肯定出事06/15 22:30
aa1477888 : 環環相扣就是舊機沒得用、不給你用AI 結案06/15 22:30
gary8442 : 我猜之後會提供要用雲端要付錢w06/15 22:31
Chricey : 頻尿 06/15 23:29
gary8442 : 不然Apple伺服器那一堆M2Ultra目前算力根本不夠06/15 22:32
gary8442 : Apple要加速生產M4Ultra了……06/15 22:32
gary8442 : Ultra/Extreme06/15 22:32
Chricey : 益生菌推薦 06/15 22:32
abc0922001 : 不意外,就算蘋果不解釋,其他人也會幫忙解釋06/15 22:34
abc0922001 : 15Pro性能才夠,14Pro性能不夠?06/15 22:35
coneflwer : 割韭菜06/15 22:35
Chricey : 離婚監護 06/15 22:35
gary8442 : ram擠牙膏的結果。早在A14時就該配8G RAM了。06/15 22:38
gary8442 : 這樣就能從M1/A14(同NPU) 開始切割了 06/15 22:39
gary8442 : 就不會有現在M1可以 A14~A16辦不到的狀況06/15 22:42
Kroner : 離婚 監護 06/15 22:42
jdcbest : 果粉須多納一點香油錢給貧果,貧果才要保佑果粉06/15 22:46
xluds24805 : 要不要用雲端的判斷有什麼難的,不是都能判斷哪些手06/15 22:52
xluds24805 : 機不准用 AI 了XDD 06/15 22:52
Chricey : 離婚 分配 06/15 22:52
kyle5241 : 不如配12GB鎖成8GB還可以給人驚喜06/15 22:55
M4就是標準示範 12G(6+6) RAM 鎖成8GB https://reurl.cc/oRyq8g ※ 編輯: gary8442 (1.200.8.187 臺灣), 06/15/2024 23:01:34
yayohola : 雲端功能不下放超爛 06/15 23:01
gary8442 : 相信未來一定有12G才能跑 8G不夠用的 AI2.0 XDD 06/15 23:04
Chricey : 葉黃素功效 06/15 23:04
gary8442 : 或其他桌面級功能 比如說開放iPad執行Mac App 06/15 23:04
gary8442 : 說不定狠一點直接限制要至少16G RAM版本的iPad Pro 06/15 23:06
guogu : 不然做判斷XD 唬爛也要有個限度 06/15 23:07
Kroner : 益生菌推薦 06/15 23:07
gary8442 : 直接打臉自己當初M1~M3 Mac標配祖傳8GB RAM 。我覺 06/15 23:07
gary8442 : 得現在的庫克幹的出來這種操作 06/15 23:07
guogu : 要調用哪個模型時判斷要用多少ram最好這麼困難 06/15 23:08
Kroner : 靈芝 06/15 23:08
guogu : 更簡單一點 沒8g ram的全跑雲端不就好了判斷個毛 06/15 23:10
gary8442 : 可能明年出個雲端AI收費服務 買低端機的自己補票XD 06/15 23:11
square4 : A15 NPU 32tops (int8),A16 34tops,A17P 35tops 06/15 23:13
Chricey : 苦瓜胜肽 06/15 23:13
square4 : 主要是ram大小的問題,這次i15p用上lpddr5 16Gb*4 06/15 23:13
square4 : d1b工藝,相比i15、i14p用12Gb*4還是有升級的 06/15 23:13
augustlion : 學軟軟啊 不換機不給用 06/15 23:16
Chricey : 苦瓜胜肽 06/15 23:16
mike0608 : 蘋果:沒錢還想幹嘛?乖乖拿錢出來 06/15 23:26
square4 : 若想用第三方模型,可以裝app,若要用自家模型,本 06/15 23:29
square4 : 地跟雲端是捆一起的,功能才完整,i16應該會加ram 06/15 23:29
Kroner : 吃B群的好處 06/15 23:29
roman80010 : 猜ios19可能會出月費制 06/15 23:30
xross : 全部跑雲端(收費)不就夠用了 ChatGPT不就這樣 06/15 23:33
xross : 代表蘋果雲端落後微軟 超級理由伯 06/15 23:34
Kroner : 離婚訴訟 06/15 23:34
qss05 : 當初臭安卓爛系統要配那麼多記憶體的人真的是啪啪 06/15 23:35
qss05 : 響,pixel8最後谷歌也讓他可以用,ios最低也要8G, 06/15 23:35
qss05 : 那ios封閉的記憶體優勢呢… 06/15 23:35
abadjoke : 當初果粉嘴安卓AI是刻意逼人換機 不知道現在怎麼想 06/15 23:40
WenliYang : 騙錢的把戲 06/15 23:44
square4 : pixel 8 pro據傳是3.25B的gemini nano,8的參數減 06/15 23:47
square4 : 少至1.8B,谷歌肯定有考慮安卓ram占用或tensor支援 06/15 23:47
square4 : 模型壓縮的情況,才沒有直上7B 06/15 23:47
swordsgod : ram擠牙膏擠成這樣,果粉還認為6gb夠用了嗎? 06/15 23:48
gary8442 : AI模型塞在那 8G都很吃緊了 等12G標配哎鳳哎配普羅 06/15 23:55
u9596g12 : 不就多一個逼你上pro的理由 之前是120hz不下放 06/16 00:06
u9596g12 : 現在多一個AI噱頭讓你上pro 你總要出錢了吧 06/16 00:06
jacky40383 : 下放舊機型 費人力時間還賺不到錢 傻了才下放 06/16 00:15
info1994 : 活該啊 自己愛擠牙膏 06/16 00:29
clover1211 : 這兩代手機買的真不值 06/16 00:36
n7555235 : 這不就是果粉最愛的蘋果嗎? 06/16 00:54
blent : 記憶體不夠應該是個藉口 06/16 01:33
blent : searchers-run-llms-iphones/ 06/16 01:33
blent : 記憶體不夠應該只是個藉口 06/16 01:34
blent : https://reurl.cc/ezgn9m 06/16 01:34
p40403 : 看有沒有INT4而已,有4跑70億模型要4G RAM沒4要7G 06/16 01:36
p40403 : 高通也是8G2開始才有INT4 06/16 01:39
p40403 : 有INT4才能做,當初規劃沒有ai沒有INT4就是什麼都不 06/16 01:40
p40403 : 能做 06/16 01:40
p40403 : 現在都是跑70億模型,有INT4只要4G RAM,未來如果到 06/16 01:42
p40403 : 100億就不好說了,看隔壁討論說A17 Pro沒有INT4,那 06/16 01:43
p40403 : 有可能就是要硬吃8G 06/16 01:43
sunalmon : 蘋果核心 使用者體驗 只專注在當下能最大化並且讓 06/16 02:00
sunalmon : 每一個層級的消費者有最好的體驗 碰到新趨勢? 乖乖 06/16 02:01
aegis43210 : 現在AI推論的精度愈來愈低也不是好事,變成未來die 06/16 02:02
aegis43210 : 有很大面積都會是NPU 06/16 02:02
sunalmon : 拿錢出來就好 反正蘋果本來就知道他的主力消費在意 06/16 02:03
gary8442 : 我覺得庫克捨不得給IPhone SE4, iPad mini7 8G RAM 06/16 02:03
gary8442 : 最狠的情況很可能還是只有6G. 收雲端AI訂閱費更賺 06/16 02:04
sunalmon : 什麼 價格反而是其次 06/16 02:04
NEX4036 : i15 Pro那種火爐還想用AI 笑死人了 06/16 02:18
dt26551062 : 現在就在清15庫存 不然連15都不讓你用好嗎== 06/16 02:56
wugigi : 以前不是說蘋果記憶體 能當作安卓的兩倍來看嗎? 06/16 03:23
wugigi : 怎麼真的要ai的時候 一堆安卓12GB等級的手機都被直 06/16 03:23
wugigi : 接放棄了呢 蘋果真的是可笑可笑XD 06/16 03:23
runningboy : 果粉死忠的,看到蘋果出AI好像是庫克發明的一樣 06/16 03:29
iddoraemon : 很明顯啊 就問為什麼M4新ipad才能適配筆跟新鍵盤? 06/16 03:31
EPIRB406 : 這下蘋果自己打臉那些說8G等於安卓16G的果粉XD 06/16 04:51
FRX : 明明就有虛擬記憶體技術...逼人升級而已 06/16 08:05
iPadProPlus : 藉口而已 雲端都能算 06/16 09:00
n7555235 : 沒有蘋果,哪有什麼老黃,還不都是因為siri的啟蒙 06/16 09:01
n7555235 : ,才有現在的老黃 06/16 09:01
ayuhb : 大人的理由啊 沒什麼 06/16 09:04
iomirror626 : 哪來的細節 這評論跟蘋果說得一樣啊=.= 06/16 09:36
sato89 : 反正想用買新的 06/16 09:46
splong : 翻譯:買新的 06/16 10:34
APC : 15Pro 有給就不錯了 06/16 10:42
APC : 發表後阿婆股價直接就飛天 06/16 10:42
APC : 沒普羅沒人權,懂 06/16 10:44
youngerwu : 2021 iPad Pro M1可以 結果去年的iphone 15不行 慘 06/16 10:58
kkcity59 : 就很簡單ram不夠啊。如果15Pro都不給用光靠宣傳AI 06/16 11:07
kkcity59 : 這波股票怎麼有辦法漲起來重回市值第一? 06/16 11:07
kkcity59 : 下一代16pro有機會給各比較大方的12g ram嗎? 06/16 11:08
cooji74115 : cook:原來如此 我懂了 感謝網友解釋 06/16 12:01
kkcity59 : 蘋果在AI上就...沒有嘛。他能利用的優勢就是平台數 06/16 12:39
kkcity59 : 找現成的AI生成成熟的廠商來合作,但只放在Pro機種 06/16 12:40
kkcity59 : 這對AI合作的廠商來說肯定是不夠,所以16全系列上AI 06/16 12:41
kkcity59 : 我覺得應該是蠻可能的,這樣數字版給8gb ram 06/16 12:41
kkcity59 : Pro版上各12gb ram應該不過分吧? 06/16 12:41
carlos159357: 沒什麼,強迫換機罷了 06/16 12:41
kkcity59 : 說放在雲端...蘋果的雲端...一樣就是沒有嘛 06/16 12:42
kkcity59 : 雖然他號稱有自己的資料中心但那規模就是自用而已 06/16 12:43
kkcity59 : 一般的iCloud服務一樣得靠Google或雲上貴州啊 06/16 12:43
kkcity59 : 所以AI找OpenAI跟百度,雲端找Google跟雲上貴州 06/16 12:43
kkcity59 : 盡量使用Host端自己的算力做AI處理也可省雲端的錢 06/16 12:45
kkcity59 : OpenAI反正財務狀況很差,很缺錢,蘋果又不缺錢 06/16 12:46
kkcity59 : 蘋果應該可以保有比較大的自主權力吧 06/16 12:46
ohmylove347 : 幹真的超哭,無法判斷這種理由也說得出來真的笑死, 06/16 12:46
ohmylove347 : 偉哉我大庫克 06/16 12:47
kkcity59 : 小模型safetensor存在就要2-3gb,進記憶體後會更大 06/16 12:49
kkcity59 : 6gb ram跑不起來就是跑不起來....現實就這樣 06/16 12:50
kkcity59 : 除非有厲害的方式在接受精度上把模型縮的更小 06/16 12:51
Layase : 設備不能做本機還雲端判斷是什麼笑話 06/16 13:14
Layase : 降低精度做8fp或是turbo模型那種就是了 06/16 13:15
Layase : 蘋果ai方面技術還比較落後加上原本就不敢創新走保守 06/16 13:17
Layase : 路線 都要等過幾年再來重新定義 06/16 13:17
greg7575 : 2GB語言模型比我家的狗還笨 06/16 13:58
kkcity59 : 蘋果的ai技術落後....其實他雖然有開始追著發展ai 06/16 14:21
kkcity59 : 但是目前應該是等於...沒有嘛...他有生成設備嗎? 06/16 14:21
kkcity59 : 他有基礎訓練模型嗎?真的開始硬幹嗎? 06/16 14:22
kkcity59 : 從零開始追怎麼行?砸錢下去找合作廠商快得多啊 06/16 14:22
kkcity59 : 蘋果的優勢就是我單一廠商擁有最大的平台數量 06/16 14:23
kkcity59 : 光這點就應該可以吸引很多發展AI多年的公司樂意合作 06/16 14:24
kkcity59 : 低精度模型現在都4int甚至3iint/2int都有人做了 06/16 14:25
kkcity59 : 一家AI幾乎等於沒有的公司也可以利用AI熱度 06/16 14:27
moon999tw : 九樓應該就是正解 06/16 14:28
moon999tw : 當初小氣不給RAM搞到自己 不是說8G=別人16G嗎 之後M 06/16 14:28
moon999tw : acbook RAM也會不夠用 06/16 14:28
kkcity59 : 重回世界市值第一,這個操作應該也算很強吧 06/16 14:28
horb : 逼你換機。就這樣 06/16 14:47
howare4775 : Apple is gg,閃退到跟以前的安卓有什麼兩樣 06/16 15:31
nohssiwi : 果粉是盤子不是眾所皆知嗎? 蘋果這樣做就理所當然 06/16 16:06
nohssiwi : 啊 06/16 16:06
goingMAX : 好想知道臭果粉的都用哪隻AI手機喔? 06/16 16:36
likebird : 不是說那個雲端也是私人的嗎 06/16 17:10
likebird : 算力不夠的全部都丟那個雲端算不就好了 06/16 17:10
horstyle0411: 為什麼2024年還要問這種問題... 06/16 17:25
horstyle0411: 蘋果欸? 06/16 17:25
hygen : 以下的性能太爛,AI不了XDDD 06/16 18:37
ibluestorm : 記得當初有人還在問安卓為什麼記憶體越來越大 06/16 19:02
ibluestorm : 結果現在蘋果直接來個8g以下抱歉了 06/16 19:02
evermpeg2 : 雲端當然能算,強制舊機雲端計算即可,可是庫克怎麼 06/16 19:48
evermpeg2 : 可能讓你白嫖,即將推出iAi,每個月只要99/199/399 06/16 19:48
evermpeg2 : 之類的賺更大 06/16 19:48
andykao082 : 就是賣貴的 06/16 19:58
APC : 彭博:消息指出蘋果不但不用付錢,還會向 AI 供應商 06/16 20:12
APC : 收費 06/16 20:12
APC : 結論:水果攤贏麻了 06/16 20:12
kkcity59 : 丟雲端算?誰要出錢呢?就提供服務的廠商要出錢啊 06/16 21:38
kkcity59 : 每年Google雖然付給蘋果不少錢來綁Google Service 06/16 21:40
kkcity59 : 蘋果一年也是要付給Google不少在GCP開機器的錢啊 06/16 21:41
kkcity59 : 如果全走上雲端AI這個錢累計起來可是不得了 06/16 21:41
kkcity59 : 所以現在你看微軟/Google/蘋果全都叫叫叫說.... 06/16 21:42
kkcity59 : 你們要自立自強啊,自己的手機要能算AI 06/16 21:42
kkcity59 : 像是雲端提供AI算圖那些平台也都是每日限制張數 06/16 21:43
kkcity59 : 如果要無限使用就得交錢,而且這個費用並不便宜 06/16 21:43
kkcity59 : 所以要普及Host端的AI其實也是蠻實際的方案 06/16 21:44
abcdefghi : openai和NV應該會對雲端AI服務有興趣,一家是AI技術 06/16 21:59
abcdefghi : 最強,卻找不到獲利模式,另一家是掌握全球AI算力 06/16 22:01
abcdefghi : 卻只能賣硬體,目前這種跑在本機的AI服務品質如何 06/16 22:03
abcdefghi : 還有待時間考驗,對消費者而言,先用雲端AI才是最佳 06/16 22:04
tn00210585 : 你各位不是15起跳的都是次等蘋果 06/17 18:02
mytvpoly : 要賺錢 06/17 23:17
gary8442 : @tn00210585 要正名15Pro才對 15/15Plus也是慘 06/18 02:41
tn00210585 : 真假,15p也是次等水果,也太慘 06/18 10:34
JosephChen : 不是仿生 NPU嗎 怎麼還得問ChatGPT 便宜的還不給問 06/18 13:53
bbbing : 蘋果可是破天荒把AI功能下放到15 pro啊 06/18 17:30