Die technologische Landschaft rund um künstliche Intelligenz (KI) entwickelt sich rasant weiter, und neue Innovationen treten regelmäßig auf den Markt. Ein herausragendes Beispiel dafür ist die neueste App namens Fullmoon, ein KI-Chatbot, der speziell für Apple-Geräte wie iPhone, iPad und Mac entwickelt wurde. Diese App, die von Mainframe unter Verwendung des fortschrittlichen Llama 3.2 Sprachmodells programmiert wurde, bietet eine Offline-Nutzung ohne Internetverbindung, was sie sowohl praktisch als auch datenschutzfreundlich macht. Laut tz.de erfordert Fullmoon jedoch nach der Installation den Download der Modelle.
Fullmoon kommt in zwei „Lightweight“-Versionen, die sich durch die Anzahl ihrer Parameter unterscheiden: die 1B-Instruct-4bit-Version hat 1 Milliarde Parameter und benötigt 0,7 GB Speicher, während die 3B-Instruct-4bit-Version über 3 Milliarden Parameter verfügt und 1,8 GB Speicher beansprucht. Diese flexiblen Modelle stellen sicher, dass Nutzer verschiedene Anforderungen bedienen können, wobei die App Funktionen wie das Beantworten von Fragen, das Strukturieren von Texten und das Verfassen von E-Mails bietet. Dennoch sollten Anwender vorsichtig sein, da die Aktualität und Genauigkeit der Inhalte aufgrund der Offline-Nutzung eingeschränkt sein könnte.
Privatsphäre und Anpassungsmöglichkeiten
Ein merkenswertes Merkmal der Fullmoon-App ist, dass sie quelloffen und kostenlos im Apple App Store verfügbar ist. Zusätzlich haben die Nutzer die Möglichkeit, das Design der App nach ihren Wünschen zu gestalten, einschließlich Anpassungen für Schriften und Themen. Diese Funktionen heben die Benutzererfahrung auf ein neues Level, während zugleich die Privatsphäre gewahrt bleibt. Laut Digitale Profis erlaubt die lokale Nutzung des Chatbots, dass keine Daten an externe Unternehmen übermittelt werden, was beispielsweise bei größeren Sprachmodellen oft problematisch ist.
Um ein noch breiteres Spektrum an Anwendungen zu bieten, wird parallel zu Fullmoon auch der LlamaGPT-Chatbot entwickelt, der ebenfalls offline betrieben werden kann. Wie auf GitHub erläutert wird, unterstützt LlamaGPT verschiedene Modelle, einschließlich der neuesten Code Llama Modelle, und garantiert damit höchsten Datenschutz für die Nutzer. Der Chatbot lässt sich einfach über Umbrel App Store installieren und benötigt für seine Funktionen unterschiedliche Hardware-Anforderungen.
Modelspektrum und Leistung
Die unterstützten Modelle von LlamaGPT variieren stark in ihrer Größe und den benötigten Ressourcen. Beispielsweise benötigt das 7B Modell 3,79 GB Speicherplatz, während das 70B Modell bereits 38,87 GB erfordert und eine hohe Leistung voraussetzt. Die Benchmark-Daten zeigen, dass unterschiedliche Systeme, wie etwa der M1 Max Chip, erhebliche Unterschiede hinsichtlich der Verarbeitungsgeschwindigkeit aufweisen. Diese Angaben sind entscheidend für Nutzer, die die Leistung der Chatbots realistisch einschätzen wollen.
Zusammenfassend lässt sich sagen, dass sowohl Fullmoon als auch LlamaGPT innovative Lösungen im Bereich der KI-Chatbots anbieten. Sie kombinieren Datenschutz, Anpassungsfähigkeit und Offline-Funktionen, was sie besonders attraktiv für datenschutzbewusste Nutzer macht. Während Fullmoon sich auf die Apple-Welt konzentriert, zeigt LlamaGPT, wie man durch lokale Installation maximalen Datenschutz und Flexibilität erreicht. Die Entwicklungen in diesem Bereich werden weiterhin genau verfolgt, da der Markt ständig in Bewegung ist.
