chatten mit der pseudo-künstlichen intelligenz. was die proprietären können, geht auch mit open source und sogar zuhause (noch mehr technopolitischer kontext). am ende werden uns die chatbots eh nicht mehr mitreden lassen. bis es soweit ist hab ich mit github.com/ggerganov/llama.cpp heute mal so eine lokale instanz eines chatsystems installiert (idee und technischer hintergrund gut runtergebrochen).:, starten mit:
cd Programme/llama.cpp/ source venv/llama/bin/activate ./main -m ./models/7B/ggml-model-q4_0.bin -n 256 --repeat_penalty 1.0 --color -i -r "User:" -f prompts/chat-with-bob.txt
github.com/nomic-ai/gpt4all ging auch. sogar reibungsloser, weil hier ein modell schon gleich verlinkt ist.
starten mit:
cd Programme/gpt4all/chat ./gpt4all-lora-quantized-linux-x86
nicht auf anhieb geklappt haben:
cocktailpeanut.github.io/dalai/
github.com/tloen/alpaca-lora
für windows (nicht probiert):
github.com/BenHerbst/Dalaix
und zum schluss noch den hinweis auf eine lehrreiche kolumne zum thema:
Außerdem Bildungsmaterialien zum Thema aus dem Haus RLS. Und wers als klassisch lineares Texterlebnis selbstbestimmt hoch- und runterscrollbar zur aktiven Aneignung der Materie haben will, etwas witzig, aber technischer und dennoch anschaulich:
Und wenn wir hier schon beim Nerd-Kram sind, dann passt auch noch der Hinweis auf den Mathemarxismus. Die Grundlagenwissenschaft für alle – aber ganz besonders für alle, die nicht nur Computer benutzen, sondern sich auch noch Gedanken darüber machen: