Post Abjkw1LIXtxGiD6dNo by prywatnik@mastodon.social
(DIR) More posts by prywatnik@mastodon.social
(DIR) Post #Abjkw1LIXtxGiD6dNo by prywatnik@mastodon.social
2023-11-12T17:06:48Z
0 likes, 2 repeats
Już dziś w przeglądarce internetowej można uruchomić model LLM o kilkudziesięciu miliardach parametrów. Lokalnie na komputerze, wkrótce na smartfonie, nie na serwerach firmy. O tym, że tak będzie pisałem kilka miesięcy temu. Tylko trzeba sporo pamięci RAM (64GB) i jakiś sensowny procesor. https://webllm.mlc.ai/