Post AzZ0AxljPtCQbPxHTU by bobschi@mastodon.social
(DIR) More posts by bobschi@mastodon.social
(DIR) Post #AzYwHsxzGokzv1jVui by publicvoit@graz.social
2025-10-25T08:54:10Z
0 likes, 0 repeats
@keno3003 mit einem Video, das den aktuellen Stand lokaler #LLM-Modelle zusammenfasst:Lokale #KI ist jetzt WIRKLICH brauchbar (und auf dieser Hardware läuft sie)https://peertube.heise.de/videos/watch/f9kFLcJwHD8iWxU6S4xyKf
(DIR) Post #AzZ0AxljPtCQbPxHTU by bobschi@mastodon.social
2025-10-25T09:37:35Z
0 likes, 0 repeats
@publicvoit @keno3003 es ist faszinierend, wie sich die verwendung von "brauchbar" geändert hat.
(DIR) Post #AzZIXvjYwmFw7u2f3I by wobl@chaos.social
2025-10-25T13:03:31Z
0 likes, 0 repeats
@publicvoit @keno3003 Wenn das hier stimmt ist das aber keine gute Idee:https://quesma.com/blog/local-llms-security-paradox/
(DIR) Post #AzZJa7KKumvKcCqiIK by publicvoit@graz.social
2025-10-25T13:15:10Z
0 likes, 0 repeats
@wobl @keno3003 Also soweit ich beim Drüberschauen die Idee des Angriffs verstehe, sehe ich ein akzeptables Risiko, da ich den Input (Prompt) als auch Output persönlich prüfe, bevor ich da etwas ausführe.Wer KI-Output nicht prüft, der hat generell ein Problem mit der Technik, würde ich sagen. 🤷
(DIR) Post #AzZJyV4KIMWNCOzHG4 by wobl@chaos.social
2025-10-25T13:19:34Z
0 likes, 0 repeats
@publicvoit @keno3003 Ich hatte das so verstanden dass die 2. Variante direkt code auf dem rechner generiert und ausführt.
(DIR) Post #AzZKGRNakaf8yAYMfg by publicvoit@graz.social
2025-10-25T13:22:49Z
0 likes, 0 repeats
@wobl @keno3003 Ich lese da, dass es obfuscated (Python) code generiert, den ich immer noch manuell kopieren und ausführen müsste.Insofern: ohne check ist man ohnehin verkauft. Da ist es unerheblich, ob ich LLM in der Cloud oder lokal nutze.Aber vielleicht verstehe ich die Seite falsch.