ai-in-pm/Titans---Learning-to-Memorize-at-Test-Time
📦 Open Source Projektai-in-pm
Eine Multi-Agenten-Demo-Plattform für Titans, neuronale Netze, die während der Laufzeit lernen, Informationen zu speichern.
Das Titans-Projekt stellt einen bedeutenden Wandel in der Architektur neuronaler Netze dar, indem es sich vom traditionellen Paradigma der eingefrorenen Gewichte entfernt. Durch die Umsetzung der Konzepte aus dem Titans-Forschungspapier (arXiv:2501.00663) bietet dieses Repository ein funktionales Multi-Agenten-System, das demonstriert, wie Modelle während der Testzeit lernen können, Informationen zu speichern. Im Gegensatz zu Standard-Transformern, die auf feste Kontextfenster angewiesen sind, nutzen Titans spezialisierte Speichermodule, die dynamische Aktualisierungen während der Inferenz ermöglichen. Die Plattform umfasst eine native Desktop-UI, die sieben einzigartige KI-Agenten koordiniert, von denen jeder diese speichererweiterten Fähigkeiten nutzt, um komplexe, zustandsabhängige Aufgaben zu bewältigen. Diese Implementierung dient sowohl als Forschungssandkasten als auch als praktische Demonstration dafür, wie Test-Time-Compute genutzt werden kann, um die langfristige Speicherung und das Kontextbewusstsein in LLMs zu verbessern. Die Codebasis ist in Python geschrieben und bietet eine modulare Struktur für Entwickler, um mit Konfigurationen von speichererweiterten neuronalen Netzen (MANN) zu experimentieren.
💡Highlights
- ├─Test-Time-Memory Architektur
- ├─7-Agenten Multi-Agenten-Framework
- └─Native Desktop-UI Integration
🎯Für
- ├─KI-Forscher
- └─Machine Learning Ingenieure