スマホはサイズ制限あるから今のままCPUとメモリの性能上げても意味なくない? | おっちゃんねる

おっちゃんねる

ここはおっちゃんの憩いの場 (´・ω・`)

Top / 詳細

スマホはサイズ制限あるから今のままCPUとメモリの性能上げても意味なくない?

2023年05月25日
14

8. 名無しのおっちゃん

2023年05月25日 21時12分 ID:e82a4aa8c3 (1/1) ID抽出 返信

GPT-4動かすには、最低限、NVidiaのA100が30台必要らしい。
A100はFP32で312TOPS、VRAMが40GB、消費電力は250W。コイツが30台必要。
現状はスマホどころかPCでも無理で、サーバ並べてクラスタ組んでなんとか。

この辺をスマホまで落とすには、まあ、10年はかかるんじゃないかな。
生成系AIを多用してるが、現状だと自分が入力した内容も全部学習に使われて気持ち悪いので、早くローカルで実行可能になって欲しい。

コメントを投稿する


カテゴリー一覧

おっちゃんねる