Hat hier jemand Informationen / Ahnung, welche KI-Chat-Tools man mit Blick auf digitale Souveränität und Privacy guten Gewissens nutzen kann? Ok, die lokalen KI-Tools, die man sich selbst auf dem Rechner installiert. Aber meine GPU-Power ist ganz mau. Ich komme da nicht ohne einen Dienst im Netz aus. 🙁
Was ist mit Hugging Face? Das ist ja OpenSource, wenn ich das recht sehe und kommt aus Frankreich. Oder Mistral? Ist wohl auch europäisch. Weiß hier jemand genaueres?
#KI #digitale #selbstverteidigung #privacy #Datenschutz #chatbot
Am ehesten LeChat von mistral.ai
Die haben auch als einzige Infos zum Ressourcenverbrauch bei Training und Nutzung der Modelle.
Wenn es um Coding / Einbindung in eine IDE gehen soll, kannst du dich bei der Codestral Beta anmelden, bspw. mit dem Plugin Continue in VSCode (oder Codium).
@jeff ich nutze hauptsächlich lumo von Proton:
Proton veröffentlicht datenschutzfreundlichen KI-Chatbot Lumo : “Der Schweizer Software-Anbieter Proton hat nun einen eigenen KI-Chatbot. Lumo schützt Nutzerdaten, verwendet verschiedene Sprachmodelle und ist quelloffen.” (heise.de)@caos Ah cool, danke für den Tipp 🙂
Persönlich benutze ich Mistral.ai. lokal etwas drehen, dazu ist meine Maschine zu schwach und sind meine technischen Kapazitäten auch zu schwach.
Du stellt aber eine Gute Frage. Meine Firmenleitung liebt die ganzen US-KI Dinger. Von Mistral haben die sicherlich noch nix gehört, geschweige denn nach europäischen Ausweichmöglichkeiten umgesehen. Leider ist “Digitale Souveränität” in der Chefetage bei uns nicht angekommen und die wollen davon auch nix hören.
@baleanar Ach man, ja, das dürfte für alle, die sich etwas mit dem Thema “Digitale Souveränität” und USA beschäftigen, leicht frustrierend sein, wenn die Chefs das ganz entspannt sehen … 🙄
Für den Alltag nutz ich duck.ai von Duckduckgo mit Mistral als Model
Wir haben das Thema gerade ein wenig in der Firma. Klar ist, es gibt hier Menschen, die eine KI benutzen wollen, aber die Anforderungen an die Funktionalität sind sehr unterschiedlich. Dazu auch hier das übergeordnete Thema mit Sicherheit und Unabhängigkeit.
Ich muss es nicht entscheiden, aber denke auch darüber nach.
Apertus und confer sind in der Diskussion oder selbst eine vortrainierte Kiste als Hardware in die Ecke stellen.to be continued
@D_a_X Danke für die Links 🙂 Die kannte ich noch nicht. Ja, das sieht so auf den ersten Blick sehr gut aus. Die Kiste in der Ecke, wäre toll … muss doch noch mal die Dielen aufbrechen, ob sich da nicht irgendwo noch ein paar Cent verstecken 😉 Aber ich fürchte, die Kellerasseln waren schon vor mir da … 🙄
deleted by creator
@Rhea Gute Frage! 🙂 Eigentlich beides: unabhängig von den USA UND von großen Konzernen. Leider ist es mit dem Selber-Hosten von KI nicht so einfach wie mit dem einen oder anderem WebTool (wie zum Beispiel den fediverse-Plattformen). Daher kommt man (ich) im Moment nicht an den (großen) Konzernen vorbei. Und wenn ich schon den sauren Drops lutschen muss, dann soll es wenigstens ein europäischer Konzern sein.
