Tools

Ollama

Aktuelle Berichte, Erklärungen und verbundene Technologiethemen.

Neueste Berichte

CN
Test des Surface Laptop Ultra: Leistungsstarke ARM-Hardware ist ihrer Software voraus

Test des Surface Laptop Ultra: Leistungsstarke ARM-Hardware ist ihrer Software voraus

Microsoft und NVIDIA bringen den Surface Laptop Ultra mit dem RTX-Spark-N1X-Prozessor, bis zu 64 Gigabyte Unified Memory und bemerkenswerten Fähigkeiten zur Ausführung von AAA-Spielen und großen lokalen KI-Modellen auf den Markt. Die App-Kompatibilität sowie die Unterstützung für Copilot+ und KI-Tools sind jedoch weiterhin unvollständig, wodurch das Gerät eher vielversprechend als eine für alle bereite Option ist.

CN
JetBrains veröffentlicht Mellum2.1 als schnelles offenes Modell für Programmieragenten

JetBrains veröffentlicht Mellum2.1 als schnelles offenes Modell für Programmieragenten

JetBrains hat das offene Modell Mellum2.1 unter der Apache-2.0-Lizenz veröffentlicht. Es konzentriert sich auf den lokalen Betrieb von Programmieragenten und Subagenten oder auf der eigenen Infrastruktur des Nutzers. Die Version basiert auf Training durch bestärkendes Lernen in realen Softwareumgebungen und bietet deutliche Verbesserungen beim Umgang mit Code-Repositories sowie bei der Inferenzgeschwindigkeit.

CN
PoeLLM-Malware infiziert Tausende KI-Server zum Mining von Kryptowährungen

PoeLLM-Malware infiziert Tausende KI-Server zum Mining von Kryptowährungen

Forscher von Black Lotus Labs haben eine verdeckte Mining-Kampagne entdeckt, die mehr als 3.400 exponierte Server ausnutzte, darunter Systeme mit LiteLLM und Ollama, und die infizierten Geräte in Plattformen zum Scannen neuer Ziele und Ausführen von Angriffen verwandelte. Die Malware verwendet eine ungewöhnliche Methode, um Adressen von Command-and-Control-Servern aus versteckten Wörtern in einem auf GitHub gehosteten Gedicht zu extrahieren.

CN
Wie baut Rust Anwendungen für Sprachmodelle mit Rig?

Wie baut Rust Anwendungen für Sprachmodelle mit Rig?

Eine gemeinsame praktische Präsentation von JetBrains und der Rust Foundation erklärt, wie die Rig-Bibliothek zum Bau von KI-Agenten in Rust verwendet wird, mit Unterstützung für Modellanbieter und Tools, RAG sowie lokale Modelle. Der Beitrag zeigt außerdem eine Methode zum Testen von Modellintegrationen durch die Aufzeichnung von HTTP-Anfragen und deren Wiedergabe in der Umgebung der kontinuierlichen Integration.

CN
Perplexity und Nvidia bringen Portable Computer für den lokalen Betrieb von KI-Agenten auf den Markt

Perplexity und Nvidia bringen Portable Computer für den lokalen Betrieb von KI-Agenten auf den Markt

Perplexity hat die Plattform Portable Computer gestartet, um ihre Agenten lokal auf den Geräten der Nutzer auszuführen – zunächst auf Nvidia DGX Spark sowie Linux-Computern mit RTX-Grafikkarten und mindestens 24 GB Speicher. Das System belässt Modelle, Dateien und Arbeitsabläufe standardmäßig auf dem Gerät und kann die Zustimmung des Nutzers einholen, bevor ein bestimmter Schritt an ein leistungsfähigeres Cloud-Modell eskaliert wird.

CN
JetBrains ermöglicht vollständig lokalen Betrieb von Junie auf Macs ohne Cloud oder Guthaben

JetBrains ermöglicht vollständig lokalen Betrieb von Junie auf Macs ohne Cloud oder Guthaben

JetBrains hat die Funktion Junie Local vorgestellt, die den Programmieragenten Junie lokal auf einem Mac mit dem Modell Qwen3.6-27B ausführt, ohne Code oder Eingaben an die Cloud zu senden. Dafür sind ein Mac mit M5-Prozessor und 64 Gigabyte Arbeitsspeicher sowie ein Download von etwa 20 Gigabyte erforderlich.