【悲報】ワイ、ファミコンのCPUでLLM推論できるか本気で調べた結果wwwwww

※こちらのスレッド及びレスはAIで生成したものであり、実際の掲示板に存在するものではありません。
また、内容の正確性についても保証できません

1: 風吹けば名無し 2026/08/17(月) 21:03:12.44 ID:kZ8Q4rT2a

ファミコンのCPU（6502）でLLM動かせるんか？
理論上できるって話を聞いたんやけど詳しいニキおる？

2: 風吹けば名無し 2026/08/17(月) 21:03:48.10 ID:mN3xVb7Lp

無理に決まってんだろ！いい加減にしろ！

3: 風吹けば名無し 2026/08/17(月) 21:04:21.87 ID:kZ8Q4rT2a

>>2
いや、チューリング完全なんやから理論上はできるやろ？
時間かかるだけで

                        4:
                        
                            風吹けば名無し                        
                        2026/08/17(月) 21:04:55.31
                        ID:Qw9eRt5Yu
                    
                                        「理論上できる」と「実用的にできる」は全然別の話やぞ
ここ、はっきりわかんだね

5: 風吹けば名無し 2026/08/17(月) 21:05:30.02 ID:hG6jKl0Zx

スペック貼っとくで
CPU：リコー2A03（6502ベース）1.79MHz
RAM：2KB
VRAM：2KB
ROM：カセット次第（マッパーでバンク切替）

2KBやぞ2KB
ぬわああああん無理だもおおおん

6: 風吹けば名無し 2026/08/17(月) 21:06:02.44 ID:mN3xVb7Lp

>>5
2KBって今のLLMのプロンプト1個分にも満たんやん

7: 風吹けば名無し 2026/08/17(月) 21:06:40.19 ID:vB2nMc8Aq

そもそも6502って乗算命令ないんやろ？
行列積の塊のLLMをどうやって動かすんや

                        8:
                        
                                                
                        
                            風吹けば名無し                        
                        2026/08/17(月) 21:07:11.55
                        ID:Qw9eRt5Yu
                    

                                        >>7
せやから乗算はシフトと加算のループで自作や
8bit×8bitで数十クロック食う
それを何百万回やる
やりますねぇ！（白目）                    

9: 風吹けば名無し 2026/08/17(月) 21:07:44.90 ID:kZ8Q4rT2a

でも重みはカセットのROMに焼けばええんちゃう？
マッパー使えば数MB積めるって聞いたで

10: 風吹けば名無し 2026/08/17(月) 21:08:20.63 ID:hG6jKl0Zx

>>9
それは正しい
MMC5とか自作マッパーならメガバイト単位はいける
ただしCPUから見えるのは常に32KBの窓やから、重み読むたびにバンク切り替えや
これがまた遅い

11: 風吹けば名無し 2026/08/17(月) 21:08:51.28 ID:pL4kJh9Ws

24歳、学生です
組み込みやってるけど「動く」の定義次第やと思うわ
1トークン出るのに1週間かかっても「動いた」って言い張れる

12: 風吹けば名無し 2026/08/17(月) 21:09:33.77 ID:mN3xVb7Lp

>>11
それもう動いてないやろ（名推理）

13: 風吹けば名無し 2026/08/17(月) 21:10:04.12 ID:xC7vBn1Ed

浮動小数点どうすんの？6502にFPUなんかないぞ

                        14:
                        
                                                
                        
                            風吹けば名無し                        
                        2026/08/17(月) 21:10:39.48
                        ID:Qw9eRt5Yu
                    

                                        >>13
int8とか4bitに量子化して固定小数点でやるんや
今のスマホ向けLLMも似たようなことしとる
ただ活性化関数のexpとかsoftmaxがしんどい
ルックアップテーブルでゴリ押しやね                    

15: 風吹けば名無し 2026/08/17(月) 21:11:10.05 ID:vB2nMc8Aq

ホモは工夫がすごい

16: 風吹けば名無し 2026/08/17(月) 21:11:45.66 ID:kZ8Q4rT2a

ちな想定してるモデルはどのくらいのサイズなん？
7Bとかは流石に無理やろ

17: 風吹けば名無し 2026/08/17(月) 21:12:22.33 ID:hG6jKl0Zx

>>16
7Bは4bitでも3.5GBやぞ
ファミコンのアドレス空間の何万倍や
現実的なのはパラメータ数十万〜数百万の超ミニモデル
TinyStoriesレベルの英文がギリ出るくらい

18: 風吹けば名無し 2026/08/17(月) 21:12:58.19 ID:rT6yUi3Op

つまり出力は「Once upon a time」止まりってことか
ファッ！？

                        19:
                        
                                                
                        
                            風吹けば名無し                        
                        2026/08/17(月) 21:13:30.84
                        ID:pL4kJh9Ws
                    

                                        ざっくり計算してみたで
パラメータ100万のモデル、1トークンあたり約200万回の積和
6502の自作乗算が1回50クロックとして1億クロック
1.79MHzやから約56秒/トークン
実際はバンク切替とメモリアクセスで数倍遅いから数分/トークンやな                    

20: 風吹けば名無し 2026/08/17(月) 21:14:05.47 ID:mN3xVb7Lp

>>19
「こんにちは」出すのに30分かかる推論とかいうパワーワード

21: 風吹けば名無し 2026/08/17(月) 21:14:41.02 ID:xC7vBn1Ed

>>19
数分でも「できる」には違いないやん
やっぱイッチが正しかったな

                        22:
                        
                                                
                        
                            風吹けば名無し                        
                        2026/08/17(月) 21:15:12.71
                        ID:Qw9eRt5Yu
                    

                                        >>21
できるで
ただ「LLM」って呼べるサイズちゃうけどな
「LM」や、Largeが取れる                    

23: 風吹けば名無し 2026/08/17(月) 21:15:50.38 ID:vB2nMc8Aq

>>22
SLMどころかTLM（Tiny）やんけ

24: 風吹けば名無し 2026/08/17(月) 21:16:22.16 ID:kZ8Q4rT2a

KVキャッシュってやつも問題やない？
コンテキスト持たなあかんやろ

25: 風吹けば名無し 2026/08/17(月) 21:17:03.94 ID:hG6jKl0Zx

>>24
そこや
RAM2KBやからKVキャッシュも活性化も全部カセット側にRAM積まなあかん
バッテリーバックアップRAM8KBとかあるけど焼け石に水
コンテキスト長は数十トークンが限界やろな

26: 風吹けば名無し 2026/08/17(月) 21:17:40.55 ID:sD8fGh2Jk

アイスティーしかなかったんだけどいいかな
（コンテキスト長32しかなかったんだけどいいかな）

27: 風吹けば名無し 2026/08/17(月) 21:18:15.29 ID:mN3xVb7Lp

そもそもファミコンにキーボードないやん
どうやってプロンプト入れんねん

28: 風吹けば名無し 2026/08/17(月) 21:18:50.77 ID:pL4kJh9Ws

>>27
ファミリーベーシックのキーボードあるやん
あれ知らんとかにわかか？

29: 風吹けば名無し 2026/08/17(月) 21:19:22.10 ID:mN3xVb7Lp

>>28
おっ、そうだな

30: 風吹けば名無し 2026/08/17(月) 21:20:01.43 ID:rT6yUi3Op

実際海外の人がPDP-11とか8bitマシンでミニLLM動かす遊びやっとるよな
あれ見てると人類の暇の使い方感心するわ

31: 風吹けば名無し 2026/08/17(月) 21:20:38.92 ID:xC7vBn1Ed

ぶっちゃけ論点は「できるか」より「どこまで小さくして意味ある文が出るか」よな

                        32:
                        
                                                
                        
                            風吹けば名無し                        
                        2026/08/17(月) 21:21:14.60
                        ID:Qw9eRt5Yu
                    

                                        >>31
それな
ファミコン向けに設計するなら語彙も256個くらいに絞って1トークン1バイト
埋め込み次元も32とかにして、層も2〜3層
それでも「意味っぽい」文は出せる可能性はある                    

33: 風吹けば名無し 2026/08/17(月) 21:21:50.31 ID:kZ8Q4rT2a

>>32
ええやん
それカセットにして売ったら買うわ

34: 風吹けば名無し 2026/08/17(月) 21:22:25.88 ID:vB2nMc8Aq

「ファミコンAI」とかいう名前で1万円くらいでファミコンショップに並んどるの想像したらクソワロタ

35: 風吹けば名無し 2026/08/17(月) 21:23:00.14 ID:sD8fGh2Jk

そういやカセット側に別のCPU積んでええなら話変わるよな
SFCのスーファミのスーパーFXみたいな

                        36:
                        
                                                
                        
                            風吹けば名無し                        
                        2026/08/17(月) 21:23:41.55
                        ID:hG6jKl0Zx
                    

                                        >>35
それはもう「ファミコンのCPUで」やないやろ
カセットにRaspberry Pi入れて本体は表示するだけ、それはただの外部端末や
ここは線引きせな議論の意味ない                    

37: 風吹けば名無し 2026/08/17(月) 21:24:12.03 ID:sD8fGh2Jk

>>36
せやな、すまんな

38: 風吹けば名無し 2026/08/17(月) 21:24:50.29 ID:mN3xVb7Lp

ワイの結論：
できる（数分/トークン、語彙数百、コンテキスト数十）
ただし出てくるのは幼児の絵本レベル
これを「LLM推論」と呼ぶかは各自の良心に委ねる

39: 風吹けば名無し 2026/08/17(月) 21:25:23.71 ID:pL4kJh9Ws

>>38
だいたい合っとる
付け足すなら、重みの読み出しがバンク切替まみれになるから設計はメモリアクセスパターン命
行列積のループを重みが連続アドレスで並ぶように組まなアカン

40: 風吹けば名無し 2026/08/17(月) 21:26:00.46 ID:yU5iOp7As

こういうスレ見ると「今のLLMって化け物なんやな」って改めて思うわ
1.79MHzから数GHz×何千コアやもんな

41: 風吹けば名無し 2026/08/17(月) 21:26:35.18 ID:kZ8Q4rT2a

ちなみに学習は？ファミコンで学習は流石に無理よな

42: 風吹けば名無し 2026/08/17(月) 21:27:10.92 ID:Qw9eRt5Yu

>>41
推論の何倍もの計算+勾配保存するメモリが要る
やめとけやめとけ
推論だけでも寿命が縮む

43: 風吹けば名無し 2026/08/17(月) 21:27:44.37 ID:rT6yUi3Op

「学習はPCでやってROMに焼く、推論だけファミコン」
これが唯一の現実解やな

44: 風吹けば名無し 2026/08/17(月) 21:28:20.05 ID:vB2nMc8Aq

熱で本体死にそう
数時間フル稼働とか想定されてへんやろ

                        45:
                        
                                                
                        
                            風吹けば名無し                        
                        2026/08/17(月) 21:28:55.62
                        ID:hG6jKl0Zx
                    

                                        >>44
いや6502は常時同じクロックで回っとるからゲーム中と負荷変わらんで
CPUは暇なときもnopで回っとる
そこは誤解や                    

46: 風吹けば名無し 2026/08/17(月) 21:29:30.24 ID:vB2nMc8Aq

>>45
はえ〜そうなんか
勉強になったわ

47: 風吹けば名無し 2026/08/17(月) 21:30:02.89 ID:sD8fGh2Jk

こ↑こ↓のスレ有能ニキ多すぎやろ

48: 風吹けば名無し 2026/08/17(月) 21:30:40.51 ID:xC7vBn1Ed

実装するなら言語は何？
アセンブラ一択？

49: 風吹けば名無し 2026/08/17(月) 21:31:15.30 ID:pL4kJh9Ws

>>48
cc65でC書けるけど生成コードが遅いから内側のループはアセンブラや
ゼロページ使い倒してレジスタ不足を補うのが6502の基本

50: 風吹けば名無し 2026/08/17(月) 21:31:50.77 ID:yU5iOp7As

ゼロページとかいう懐かしすぎる単語

51: 風吹けば名無し 2026/08/17(月) 21:32:28.13 ID:kZ8Q4rT2a

スレ立てた甲斐あったわ
まとめると
・理論上：可能
・現実：超ミニモデルなら数分/トークンで動く
・LLMと呼べるか：呼べない
・やる価値：ロマン
で合っとる？

52: 風吹けば名無し 2026/08/17(月) 21:33:01.45 ID:Qw9eRt5Yu

>>51
合っとる
ロマンは正義やぞ

53: 風吹けば名無し 2026/08/17(月) 21:33:35.09 ID:mN3xVb7Lp

ワイの最初の「無理に決まってる」は撤回するわ
実用性は無理やけど動くには動くんやな

54: 風吹けば名無し 2026/08/17(月) 21:34:10.66 ID:hG6jKl0Zx

誰か実装してニコ動にあげてくれ
「ファミコンでLLM動かしてみた」
絶対伸びる

55: 風吹けば名無し 2026/08/17(月) 21:34:48.21 ID:rT6yUi3Op

>>54
1トークン出るまでの数分間、画面に「考え中…」だけ映る動画とか
いいゾ〜これ

                        56:
                        
                            風吹けば名無し                        
                        2026/08/17(月) 21:35:22.94
                        ID:sD8fGh2Jk
                    
                                        ファミコンが「Once upon a time」って言い始めた瞬間の感動は多分本物やと思う

57: 風吹けば名無し 2026/08/17(月) 21:36:00.38 ID:kZ8Q4rT2a

ええスレやった
ぬわああああん疲れたもおおおん
ほなまた

おすすめ

【悲報】ワイ、ファミコンのCPUでLLM推論できるか本気で調べた結果wwwwww

おすすめ記事だゾ