01.04.25: 9. ERFA-Treffen |Lokale KI: LMStudio, OLLAMA, AnythingLLM, ComfyUI, Pinokio, OpenWebUI

Anmeldungen, Stand 01.04.25 : 11

Agenda

Lokale KI: LMStudio, OLLAMA, AnythingLLM, ComfyUI, Pinokio, OpenWebUI

Nachdem wir im Mai 2024 schon LMStudio kennengelernt haben, eine App mit der man freie Ki-Modelle wie Meta Lama x auf eigener Hardware (PC) betreiben kann, werden wir uns nun 3 weitere lokalen Installationen intensiver anssehen.

Zunächst betrachten wir die einzelnen Installationsmöglichkeiten (WINDOWS-APP, LINUX-Sub-System unter WINDOWS, node, OpenWebUI, ).

Beide Lösungen bieten egenüber LMStudio nun auch RAG-Technologien, d.h. wir können in einem workspace eigene Dokumente hochladen, die in einer besonderen DB aufbereitet werden und danach für Chats verfügbar sind. Damit kann man sensible Dokumente komplett im eigenen Haus nutzen und nicht über eine Drittanbieter-Lösung in einer (Private)-Cloud. 

• Unzensierte LLM's lokal auf eigener Hardware mit der Trainingsmöglichkeit eigener Daten.

7. ERFA-Treffen - Fortgeschrittene Prompt-Techniken

04.03.25 - 18.00 - 20.00 Uhr

Anmeldungen, Stand 04.03.25 : 19

Bild mit Flux 1.1 in freepik generiert

• Prompting ist eigentlich nicht schwer

• Chat-GPT (Playground, System-Instructions, Canvas)

• Meta-Prompt, Prompting for Prompts, Reverse Prompt Engineering..

• Prompten mit einem GPT

• Prompt Engineering Guide

• Transformer vs. Reasoning

• Abliteration (Zensur umgehen)

• 15 Mistakes to Avoid While Using ChatGPT

5. ERFA-Treffen KI im Kunststoff-Institut Lüdenscheid

Diese KI-Veranstaltung wird gemeinsam mit dem AK Kunststofftechnik im VDI BV Lenne angeboten.

Donnerstag, 6.2.2025 -  17.00 Uhr - hybrid - Save the date

Es können maximal 20 Personen im Institut mit dabei sein. Zusätzlich kann man an der Veranstaltung online über MS-TEAMS (R) teilnehmen. Wir versuchen möglichst viel mit einer mobilen Kamera zu teilen.

Foto: Kunststoff Institut Lüdenscheid

Wir erfahren etwas über 3 verschiedene KI-Anwendungen im Institut:

Smart ProDat ->Link zur Infoseite

Einsatz von KI-gestützter Software zur Identifizierung von Störgrößen und Verbesserungspotentialen. U.a. kann die KI bei Materialschwankungen durch Rezyklateinsatz helfen.

Smart Monitoring ->Link zur Infoseite

In Zusammenarbeit mit der Fa. wearTell Deutschland GmbH sind bereits 2 Verbundprojekte zu dem Thema „Körperschallmessung im Werkzeug“ erfolgreich im Kunststoff Institut durchgeführt worden. So konnten Veränderungen in den Verarbeitungsprozessen sowie Verschleiß und Defekte durch Bruch im Werkzeug frühzeitig erkannt werden. Durch den Einsatz der Körperschallmessungen können auch die Wirksamkeit von Werkzeugwartungen und die Dauer von Wartungsintervallen geprüft werden.In dem Nachfolgeprojekt „Smart Monitoring 3“ werden durch den Einsatz von KI zusätzlich Trendvorhersagen und Musterkennungen möglich und entsprechend untersucht.

Ziel: Trends und Schädigungen im Werkzeug im Voraus zu erkennen.

d.velop pilot – Wissen im Handumdrehen abrufen ->Link zur Infoseite

Mitarbeiter werden im Laufe der Jahre zu menschlichen Wissensdatenbanken und damit für das Unternehmen von enormem Wert. Sie sammeln einen erheblichen Fundus an Erfahrungen, Fakten und Wissen. Doch wenn diese Mitarbeiter das Unternehmen verlassen, geht mit ihnen auch das Wissen und es entstehen unweigerlich Lücken, die geschlossen werden müssen.

Mit dem in der KIMW Prüf- und Analyse GmbH neu implementierten d.velop pilot kann das Wissen mittels KI gesammelt abgelegt und per intelligenter Suchfunktion jederzeit abgerufen werden.

Das Tool unterstützt die Mitarbeiter deutlich im Tagesgeschäft. Es ist ein erstklassiger Wissensspeicher und ermöglicht beispielsweise, für Kundenanfragen relevante Informationen zu vergleichbaren Fällen aus der Vergangenheit im Handumdrehen abzurufen und nutzbar zu machen.

Das spart erhebliche personelle und zeitliche Ressourcen und die Kunden können sich über schnelle Angebote und Ergebnisse freuen.

Nach den 3 KI Use Cases bis ca. 18.40 Uhr gibt es einen kleinen Imbiss mit Gelegenheit zum weiteren Austausch und Networking. Die online-Verbindung wird dann beendet.

 4. ERFA Treffen im November

Bild erstellt mit Dalle3

Beim 4. und letzten Treffen in diesem Jahr, das online stattfand, war der erste Programmpunkt wie immer ein Blick auf die KI-Neuigkeiten seit dem letzten Treffen.

Reinhold Berlin zeigte u.a. die neue WINDOWS-Version von Chat GPT4o und diskutierte mit der KI im „advanced voice mode“ über das Thema KI-Agenten. Das AI-Village in Hürth oder das Cyber-Valley in Stuttgart wurden vorgestellt.

Die Teilnehmer wurden noch einmal auf die Auswirkungen des EU-AI-ACT, am 1. August in Kraft getreten, sensibilisiert. So sind u.a. zum 2. Februar 2025 wichtige Punkte in den Firmen zu beachten, u.a. der Nachweis der Mitarbeiter-Schulungen zum Thema KI. In den vergangenen Treffen wurden schon viele Weiterbildungsmöglichkeiten wie SnipKI vorgestellt. Bei diesem Treffen ergänzend weitere, zum großen Teil kostenlose Kurse im Internet von Anbietern wie Google bis zum AI Campus.

Im 2. Block ging es um die immer wieder gewünschten use cases. Hier lag der Schwerpunkt am Abend auf den Bereichen Industrie und Produktion. Speziell auch die Möglichkeit, eigene Daten auszuwerten mit dem Tool RapidMiner von Altair®, einer US-Firma, die gerade von Siemens für 10 Mrd US-Dollar gekauft wurde.

Im 3. Block haben wir vertiefend KI-Agenten kennengelernt, das von allen prognostizierte Hype-Thema in 2025.

Das 5. KI-Treffen findet am 6. Februar im Kunststoff-Institut Lüdenscheid zu Anwendungen wie Prozess- und Werkzeugdaten statt.

Einladung:

Termin: 21.11.24 - 17.00 Uhr bis 19.00 Uhr - online

Agenda wurde kurzfristig geändert!

Beim nächsten ERFA-KI-Meeting liegt der Fokus auf Use Cases aus der Industrie (Entwicklung & Fertigung) einschließlich einer Auswahl von Dienstleistern zur Realisierung im Betrieb. Wir sehen uns weitere KI-Schulungsangebote und KI-Plattformen an. Es geht diesmal auch mehr in die Tiefe bei Themen wie Automatisierung mit KI-Agenten oder RPA, RAG, Finetuning oder die Erstellung eines Firmen-GPT. Die Themenvorstellung endet pünktlich um 19.00 Uhr. Danach ist noch Zeit zum Austausch. Da jeder Punkt hier problemlos ein Tagesthema sein kann, werden wir an diesem Abend nur einen Überblick dazu geben und bei Interesse im nächsten Jahr ein eigenes Event im Rahmen unserer ERFA-Reihe dazu anbieten. Die nächste Agenda im Detail:

- Wichtige Neuigkeiten seit dem letzten Treffen

- Weitere Schulungsangebote (ab Februar Pflicht gem. EU-AI-ACT!)

- Vorestellung AI Village in Hürth

- 20+ use cases überwiegend aus Entwicklung, Produktion

- KI-Agenten

- Erfahrungsaustausch MS-Copilot

- Ausblick auf die 5. ERFA-Veranstaltung am 6.2.2025 in Lüdenscheid im Kunststoff-Institut

- KI-Webinar 19.00 Uhr bis 20.00 Uhr : ZOOM-Link