ChatRoPro - Interaktive Roboterprogrammierung mittels Large Language Models und Reinforcement Learning

In dem Projekt ChatRoPro wird ein innovatives System erforscht und entwickelt, das auch Nicht-Experten ermöglicht, komplexe Roboterprogramme ohne vorherige Programmierkenntnisse zu erstellen. Dies wird durch die Nutzung fortschrittlicher Sprachmodelle erreicht. Sprachmodelle bergen das Potenzial, Roboterprogramme direkt aus natürlichsprachigen Anweisungen zu generieren. Ergänzend dazu wird Reinforcement Learning an einem digitalen Zwilling der Roboterzelle eingesetzt, um komplexe Bewegungsabläufe zu trainieren, die durch das Sprachmodell nicht generiert werden können. Ziel ist es, die Barrieren beim Einsatz der Robotik zu überwinden und die Produktionsflexibilität insbesondere für individuelle Kundenanforderungen zu erhöhen. Als Ergebnis des Projekts entsteht ein Demonstrator, der die Basis für ein kommerziell nutzbares Softwareprodukt bildet, welches die Produktivität in der industriellen Fertigung maßgeblich steigern kann.

Motivation

Der Einsatz von Robotern hat das Potenzial die Produktivität zu steigern, bringt jedoch auch eigene Schwierigkeiten mit sich, insbesondere aufgrund der wachsenden Nachfrage nach individuellen Produkten. Um den Anforderungen der Kunden gerecht zu werden, müssen Produktionsprozesse und Roboterprogramme flexibel und schnell angepasst werden. Die Entwicklung und Anpassung komplexer Roboterprogramme ist jedoch zeitintensiv, kann zu längeren Produktionsunterbrechungen führen und verlangt spezialisiertes Wissen und oftmals jahrelange Erfahrung. Diese Problemstellungen werden durch den aktuellen Fachkräftemangel und den demographischen Wandel verstärkt. Dies ist derzeit mit eines der größten Hemmnisse für den Robotereinsatz in KMUs. Angesichts dieser Herausforderungen zielt das hier vorgestellte Forschungsprojekts darauf ab, diese Barrieren zu überwinden und Unternehmen zu ermöglichen die Vorteile der Robotik voll auszuschöpfen.

Ziele

Als Primärziel dient hierzu die Entwicklung und Erforschung eines Systems, das auch Nicht-Experten die Erstellung komplexer Roboterprogramme ohne vorherige Programmierkenntnisse in einer angemessenen Zeit ermöglicht. Dies wird erreicht, indem die Notwendigkeit traditioneller Programmierung eliminiert und stattdessen auf Sprachmodelle wie ChatGPT für die direkte Erstellung von Roboterprogrammen gesetzt wird. Die Definition der Aufgabenstellung erfolgt dabei durch einen natürlichen Dialog mit dem System. Durch den Einsatz von Reinforcement Learning werden jene Aspekte des Roboterprogramms trainiert, die nicht vollständig durch das Sprachmodell definiert werden können. Dadurch können auch komplexe Bewegungsabläufe durch das System erstellt werden. Durch die Vereinfachung der Programmierung wird die Automatisierung von Anwendungen ermöglicht, die aktuell nicht wirtschaftlich automatisierbar sind.

Als Ergebnis dieses Projektes soll ein Demonstrator entstehen, der die Grundlage für ein kommerziell nutzbares Softwareprodukt bildet. Dieser Demonstrator soll die nachfolgend aufgelisteten Eigenschaften und Fähigkeiten besitzen:

• Verbale Interaktion und Systembedienung: Die Grundlage bildet eine intuitive Nutzerinteraktion. Das System soll durch verbale Anweisungen bedienbar sein, um eine natürliche und effiziente Interaktion zu ermöglichen.

• Dialogfähige Interaktion: Weiterhin ist ein dynamischer Dialogprozess vorgesehen, bei dem das System aktiv fehlende Informationen einholt und den Nutzer während des Programmierprozesses unterstützt.

• Programmerstellung durch Programmbausteine: Die Erstellung von Roboterprogrammen soll über ein modulares System erfolgen, das die Kombination einzelner Programmbausteine zu einem vollständigen Programm ermöglicht.

• Automatische Erfassung relevanter Umgebungsinformationen: Alle relevanten Informationen über die Umgebung und die Programmierungsmöglichkeiten des Roboters sollen automatisch erfasst und dem Sprachmodell zur Verfügung gestellt werden.

• Programmgenerierung durch das Sprachmodell: Basierend auf den Anweisungen des Nutzers und den gesammelten Umgebungsinformationen soll das Sprachmodell autonom passende Roboterprogramme unter Verwendung der definierten Programmbausteine generieren.

Innovationscharakter

Der innovative Charakter dieses Vorhabens liegt in der kombinierten Nutzung von großen Sprachmodellen, Bilderkennungsverfahren und Reinforcement Learning, um die Roboterprogrammierung grundlegend zu vereinfachen. Hierbei sind folgende Hauptinnovationen zu nennen:

• Roboterprogrammierung durch Dialog: Erstellung eines vollständigen Roboterprogramms durch das System, basierend auf einer Aufgabenbeschreibung durch den Nutzer. Hierbei wird auf fortschrittliche Sprachmodelle gesetzt, die den Kontext des gesprochenen verstehen und darauf basierend das Programm erstellen.

• Hybrider Ansatz der Programmierung: Das Sprachmodell wird für die Planung und Erstellung des Roboterprogramms verwendet, dafür ist ein langer Planungshorizont und logisches Verständnis der Aufgabe nötig. Für die Detailausarbeitung komplexer Programmsegmente, die einen kurzen Planungshorizont erfordern, wird Reinforcement Learning eingesetzt. Beide Methoden ergänzen sich hierbei und ermöglichen so die Definition von Roboterprogrammen für anspruchsvolle Anwendungen.

• Unterstützung unerfahrener Nutzer: Das System bietet einen interaktiven Dialog, wodurch auch unerfahrene Nutzer lernen können, es eigenständig zu bedienen.

• Automatische Rückfragen bei fehlenden Angaben: Das System erkennt selbstständig, wenn Informationen zur Definition des Roboterprogramms fehlen, und stellt automatisch Rückfragen, um diese zu ergänzen.

• Automatisches Training von Bilderkennungsverfahren: ML-basierte Bilderkennungsverfahren, welche oft in Robotikanwendungen verwendet werden, werden automatisch innerhalb der Simulationsumgebung trainiert, um so den Arbeitsaufwand und die benötigte Expertise für solche Anwendungen deutlich zu reduzieren.

Projektkonsortium

Das Projektkonsortium besteht aus der wissenschaftlichen Einrichtung des Nuremberg Campus of Technology, der isento GmbH als Softwarespezialist, sowie der Zahn Pinsel GmbH als industriellem Partner. Als assoziierte Projektpartner unterstützen Wandelbots GmbH mit einer Softwarelösung zur universellen Roboterprogrammierung, sowie Schaeffler Technologies AG & Co. KG mit Einblicken und Anwendungsbeispielen aus KMU-Perspektive. Gemeinsam soll ein System entwickelt werden, das auch Nicht-Experten Roboterprogramme ohne Programmierkenntnisse erstellen lässt.

Versuchsstand

Die THN wird gemeinsam mit der Zahn Pinsel GmbH die Planung und Konstruktion des Versuchsstands übernehmen. Zahn Pinsel bringt dabei unter anderem Anwenderanforderungen und -informationen ein. Die erarbeitete Roboterzelle wird bei Zahn Pinsel umgesetzt und der Versuchsstand aufgebaut.

Förderung

Das Projekt ChatRoPro wird durch das Bayerische Verbundforschungsprogramm (BayVFP) des Freistaats Bayerns aus der Förderlinie Digitalisierung finanziert.