AI & ML on JAVAPRO Germany

LangChain

Mon, 27 Apr 2026 07:00:47 +0000

LangChain Requests, Prompt Tempates & Output Parser

Unsere LLM-Serie hat sich in den letzten drei Artikeln jeweils einem zentralen Thema beim programmatischen Zugriff auf Large Language Models gewidmet:

Wie kann ich via REST API Anfragen an eine LLM stellen?  Artikel Ollama REST API
Wie führe ich vollständige Chat-Verläufe mit einer LLM über den Context?  Artikel LLM Context
Wie stelle ich einer LLM Funktionen zur Verfügung, damit sie bessere Antworten erzeugen kann?  Artikel LLM Context und Tools

In all diesen Artikeln haben wir die Konzepte bewusst mit purem Python und Java implementiert – ganz ohne zusätzliche AI-Libraries. Die nächsten Artikel zeigen nun, wie sich dieselben Probleme mithilfe spezialisierter Bibliotheken eleganter und effizienter umsetzen lassen. Dieser und der nächste Artikel fokussieren sich auf die Implementierung in Python. Ein weiterer Artikel wird sich anschliessend den entsprechenden Java-Lösungen widmen.

Spec Driven Development: Warum die Zukunft der AI-gestützten Softwareentwicklung mit der Spezifikation beginnt

Mon, 20 Apr 2026 07:04:17 +0000

Ein Entwickler baut ein neues Feature in 20 Minuten per Chat mit einem AI-Agenten. Das Ergebnis sieht gut aus, die Tests laufen durch. Drei Tage später verbringt das Team eine volle Arbeitswoche damit, die Sicherheitslücken zu fixen, die Architektur an den bestehenden Code anzupassen und die hardkodierten Credentials aus dem Repository zu entfernen. Was als Produktivitätsgewinn begann, endete als technische Schuld.

Diese Geschichte wiederholt sich tausendfach in der Branche. Immer mehr Startups setzen auf überwiegend AI-generierten Code - Y Combinator berichtete, dass ein Viertel der akzeptierten Startups Codebases mit 95 Prozent AI-generiertem Code einreichten. Doch was anfangs begeistert, führt schnell zu Ernüchterung: generischer Code, schlechte Architektur, Sicherheitslücken. Spec Driven Development (SDD) verspricht einen Ausweg - indem es die Spezifikation zur “Single Source of Truth” macht, bevor eine einzige Zeile Code entsteht.

Großes Kino für Java-Entwickler & Architekten

Wed, 08 Apr 2026 12:00:36 +0000

JCON EUROPE 2026 | 20. bis 23. April 2026 | Cinedom in Köln

Wer heute über moderne Softwareentwicklung spricht, spricht zwangsläufig über Java. Kaum eine Technologie prägt die Enterprise-Welt so nachhaltig – und kaum eine Community ist gleichzeitig so lebendig, vielfältig und innovationsgetrieben. Genau hier setzt die JCON an: als Treffpunkt, als Plattform und als Erlebnisraum für Entwicklerinnen und Entwickler aus der ganzen Welt. Mit Teilnehmern aus über 70 Ländern hat sich die JCON längst zu einem internationalen Treffpunkt entwickelt. Dabei bleiben Offenheit, Wissensaustausch und Community-Gedanke zentrale Elemente.

DevOps-Patterns und Java 26 für On-Premises LLM-Plattformen in sicherheitskritischen Umgebungen

Mon, 06 Apr 2026 07:00:00 +0000

Während die erste Welle der KI-Adoption in vielen Organisationen auf Cloud-APIs setzte, ist dieser Ansatz in sicherheitskritischen und regulierten Umgebungen häufig nicht nutzbar. Vertraulichkeitsanforderungen, Datenschutzvorgaben und der Bedarf an technisch durchsetzbaren Betriebsgrenzen stehen dem entgegen. In On-Premises-Setups erweitert sich die Architektur um zusätzliche Laufzeitkomponenten, etwa LLM-Serving, Retrieval und Wissensartefakte wie Indizes und Prompts. Der Fokus verschiebt sich damit von der reinen Modellnutzung zur Plattformfrage: Wie lassen sich Datenzugriffe und Berechtigungen entlang der Pipeline kontrollieren? Wie bleiben Änderungen an Modellen, Prompts und Indizes nachvollziehbar? Und wie lassen sich Fehlerfälle reproduzierbar eingrenzen und zurückrollen?

So wird JCON EUROPE 2026 zum individuellen Erlebnis

Tue, 31 Mar 2026 12:01:01 +0000

Die JCON EUROPE 2026, die vom 20. bis 23. April im Cinedom Multiplex Cinema in Köln stattfindet, setzt konsequent auf ein Format, das Teilnehmern maximale Flexibilität bietet. Statt eines festen Ablaufs steht die individuelle Gestaltung der eigenen Konferenzerfahrung im Mittelpunkt.

Mit einer Vielzahl an Sessions, Formaten und Austauschmöglichkeiten können Besucher selbst entscheiden, welche Inhalte, Gespräche und Kontakte für sie im Fokus stehen.

Zentrale Grundlage dafür ist der JCON-Schedule: Teilnehmer können ihre persönliche Agenda zusammenstellen, relevante Sessions vormerken und gezielt 1:1 Meetings mit Speakern oder Ausstellern organisieren. Damit wird die Konferenz nicht nur konsumiert, sondern aktiv gesteuert – je nach individuellen Interessen, Projekten und fachlichen Schwerpunkten.

Wird KI mich ersetzen? Der Wert unserer Expertise im KI-Zeitalter

Mon, 30 Mar 2026 07:00:09 +0000

Wird KI Softwareentwickler ersetzen - oder nur die trivialen Teile unseres Jobs? Eine Analyse zwischen Hype, Ablehnung und echter Expertise.

Produktionsreife KI-Agenten mit Java und Spring AI entwickeln

Mon, 16 Mar 2026 07:00:18 +0000

Java-Entwickler bauen seit Jahrzehnten Enterprise-Anwendungen, aber wenn es um KI geht, wurde die Diskussion von Python dominiert. Spring AI ändert diese Situation. Es bringt die gleichen Muster, die wir von Spring kennen - Dependency Injection, Auto-Configuration, portable Abstraktionen - in die KI-Entwicklung.

Im Januar 2026 haben wir eine Beispielanwendung für einen Agenten entwickelt und möchten unsere Erkenntnisse aus dem Entwicklungsprozess teilen. Der KI-Agent führt Konversationen mit Memory, beantwortet Fragen aus internen Knowledge Bases, nutzt externe APIs und integriert sich mit bestehenden Microservices - alles läuft auf Amazon Bedrock. Wenn Kunden es selbst ausprobieren möchten, führt diese den Workshop Building AI Agents with Java and Spring AI [1] durch typische Herausforderungen von Generative AI Modellen und bietet Schritt-für-Schritt-Lösungen mit Code auf GitHub [2].

Beyond UML: Saubere Software-Architektur im Zeitalter von KI‑generiertem Code

Mon, 02 Feb 2026 07:01:37 +0000

Abstract

Wir schreiben heute mehr Code in kürzerer Zeit als jemals zuvor. KI‑Systeme agieren dabei wie ständig verfügbare Juniorprogrammierer: Sie produzieren in Minuten tausende Zeilen Code – aber wer übernimmt dabei die Verantwortung für die Software-Architektur?

Das eigentliche Problem ist daher oft nicht „schlechter KI‑Code“, sondern die wachsende Schwierigkeit für Menschen, den Überblick zu behalten und fundierte Architekturentscheidungen zu treffen.

Dieser Artikel diskutiert eine Idee, um schnell ein mentales Modell von vorhandenem Code aufzubauen, Architekturprobleme früh zu erkennen und Änderungen gezielt vorzunehmen – ohne parallel eine statische Dokumentation pflegen zu müssen.

LLM-Context und Tools

Mon, 12 Jan 2026 09:03:34 +0000

Im letzten Artikel (https://javapro.io/de/llm-context) haben wir untersucht, wie LLMs mithilfe des Contexts ganze Chat-Verläufe verarbeiten können. Doch die Möglichkeiten des Contexts gehen weit darüber hinaus. In diesem Artikel schauen wir uns an, wie wir der LLM über den Context Funktionen bereitstellen können, um qualitativ hochwertigere Antworten zu erhalten. Dieses Konzept ist bekannt als LLM-Context und Tools.

Vorbemerkungen

Die Code-Beispiele basieren auf dem Wissen aus dem Artikel https://javapro.io/de/llm-context. Daher wäre es sinnvoll, zuerst diesen zu lesen.
Alle Beispiele stehen in GitHub-Repos zur Verfügung.

Beispiel Kurzreise nach Paris

Wir möchten eine Kurzreise nach Paris machen und fragen uns, was wir da alles mitnehmen sollten. Im AI-Zeitalter starten wir Ollama mit dem Llama3.2-Modell und machen folgende Anfrage: What kind of clothes do I need for a short trip to Paris?

Wenn Entwickler auf Designer treffen: Erkenntnisse aus Vibe Coding und der Kunst des kreativen Ausdrucks

Mon, 05 Jan 2026 07:00:36 +0000

Hast du dich jemals gefragt, was passiert, wenn man Klimadaten, künstliche Intelligenz und eine Gruppe kreativer Menschen zusammenbringt? Ich habe es kürzlich bei einem „Future Fridays”-Workshop herausgefunden, einer Zusammenarbeit zwischen infogr8 und der Data Visualization Society. Das Ziel war es, mit KI-gestütztem Creative Coding zu experimentieren, um Klimadaten zu visualisieren.

Es war eine faszinierende Erfahrung, bei der Datenkreative und Designer – zusammen mit einigen Entwicklerinnen – zusammenkamen. Wir wollten Visualisierungen erstellen, die nicht nur Zahlen anzeigen, sondern tatsächlich Emotionen wecken und zum Handeln anregen. In diesem Artikel zeige ich dir, was ich darüber gelernt habe, wie man Daten zum Leben erweckt, und warum du als Entwickler dich für KI-gestütztes Codieren interessieren solltest.

Automatisierung der JVM Thread-Dump-Analyse mit KI: Praktische Observability für Java auf Amazon ECS und EKS

Mon, 29 Dec 2025 07:01:16 +0000

Angenommen, wir haben folgendes Szenario: Ein Java-Service, der gestern noch einwandfrei funktionierte, konsumiert plötzlich 90% der CPU-Leistung und reagiert kaum noch auf Benutzeranfragen. Anwender erleben Timeouts, und das Operations-Team steht unter Druck, den Vorfall umgehend zu analysieren. In solchen Situationen – ob die Anwendung “blockiert” wirkt oder CPU-Sättigung aufgetreten ist – ist eines der leistungsfähigsten Diagnosewerkzeuge der Thread-Dump. Ein Thread-Dump erfasst den Zustand aller JVM-Threads zu einem bestimmten Zeitpunkt und zeigt Ausführungszustände, Stack-Traces und Lock-Contention – das Rohmaterial, das benötigt wird, um zu verstehen, was die Laufzeitumgebung tatsächlich tut.

Code. Collaboration. Community.

Mon, 01 Dec 2025 07:01:12 +0000

JCON USA @ IBM TechXchange 2025 – wo der Java-Spirit in Orlando ein neues Zuhause fand

Als das JCON-Team ankündigte, seine etablierte Java-Konferenzreihe über den Atlantik zu bringen, waren die Erwartungen hoch. JCON Europe gilt seit Jahren als Pflichttermin für Java-Entwickler – lebendig, technisch anspruchsvoll und stark community-getrieben. Die erste US-Ausgabe, JCON USA @ IBM TechXchange 2025, erfüllte diese Erwartungen nicht nur, sondern übertraf sie. Entwickler aus aller Welt kamen nach Orlando zusammen, um drei Tage lang Java in all seinen Facetten zu feiern.

LLM Context

Mon, 17 Nov 2025 07:01:55 +0000

Im Entwickleralltag haben wir die LLMs als Coding-Partner liebgewonnen. Man kann nicht nur einzelne Fragen an eine LLM stellen, sondern einen ganzen Chatverlauf führen. Ist die LLM so smart, dass sie mich und die vorherigen Fragen und Antworten kennt? Das Zauberwort heisst LLM Context. Dies wollen wir uns nun etwas genauer anschauen.

Vorbemerkungen

Die Codebeispiele basieren auf dem Wissen aus dem Artikel Ollama REST. Es ist sinnvoll, zuerst diesen zu lesen.
Alle Beispiele stehen in GitHub-Repos zur Verfügung.
Ollama muss installiert sein. Mehr Informationen zur Installation gibt es im Artikel Lokale LLMs.

Beispiel Hauptstadt

Wir starten mit einem Beispiel und möchten eine LLM fragen, was die Hauptstädte von Frankreich und Schweden sind. Dazu machen wir zwei Anfragen via Ollama (in Open WebUI) mit dem llama3.2 Modell.

KI-gesteuertes Reverse Engineering von Java-Anwendungen

Mon, 27 Oct 2025 07:01:05 +0000

Es ist keine ungewöhnliche Aufgabe, die internen Abläufe eines bestehenden Java-Projekts zu verstehen, egal ob es proprietär oder Open Source ist. Dies kann von einfachen Aufgaben wie dem Dekompilieren und Überprüfen des Quellcodes einer vorhandenen Bibliothek bis hin zum Verständnis der Architektur, Erstellung und Bereitstellung einer großen Codebasis reichen. In vielen Fällen suchen Entwickler nach einer geeigneten Dokumentation, die die im Zielprojekt implementierten Konzepte detailliert und anhand von Beispielen beschreibt, doch häufig fehlt eine solche Dokumentation schlichtweg. Für die Dekompilierung gibt es Tools wie JD oder IDE-spezifische Decompiler-Plugins, die diese Aufgabe sofort erledigen. Betrachten wir jedoch den Fall eines völlig neuen und unbekannten Code-Repositorys, gibt es eine Reihe von Dingen, mit denen wir in der Regel beginnen, um dessen Struktur zu verstehen:

Ollama Rest API

Mon, 06 Oct 2025 07:00:04 +0000

In den letzten beiden Artikeln haben wir Ollama als Plattform zur Ausführung lokaler LLMs kennengelernt. Zusätzlich haben wir Open WebUI als UI für Anfragen an Ollama (in Docker) installiert. Eine Frage, die noch offen ist: wie kann Open WebUI auf Ollama zugreifen? Die Antwort ist ganz einfach: Ollama stellt eine REST Schnittstelle zur Verfügung, die wir uns etwas genauer anschauen wollen.

Dokumentation REST api

Das Ollama REST API ist unter https://github.com/ollama/ollama/blob/main/docs/api.md dokumentiert. Von dieser API wollen wir uns konkret anschauen, wie man eine Liste aller heruntergeladenen Ollama Modelle (LLMs) bekommt und wie man Anfragen an ein konkretes Modell machen kann.

Kino, Code, Community: Die JCON EUROPE 2025 setzt neue Maßstäbe für Java-Events

Fri, 30 May 2025 08:40:10 +0000

Von praxisnahen Workshops über Live-Coding im Kinosaal bis zur Mentoring-Revolution – die JCON EUROPE 2025 in Köln war ein Fest für Java-Fans aus aller Welt.

Ein globales Treffen der Java Community

Vom 12. bis 15. Mai 2025 wurde Köln zum Epizentrum der internationalen Java-Community. Zur zehnten Ausgabe der JCON EUROPE pilgerten Entwickler aus über 60 Ländern und fünf Kontinenten in den Cinedom, um gemeinsam 30 Jahre Java zu feiern. Die Stimmung? Euphorisch, gemeinschaftlich – und immer mit einer Prise Humor.

Vektor-Embedding in Java-Anwendungen: Gen-AI-Funktionen direkt aus der Datenbank

Tue, 06 May 2025 12:01:21 +0000

Generative KI (GenAI) hat sich in den vergangenen Jahren rasant weiterentwickelt und findet zunehmend Einzug in die praktische Softwareentwicklung. Was früher als Forschungsfeld galt, wird heute zum Werkzeug für den Entwickleralltag – auch im Java-Umfeld. Eine Schlüsselrolle spielen dabei Vektor-Embeddings: Sie ermöglichen Funktionen wie semantische Suche, Textklassifikation oder Empfehlungssysteme und eröffnen damit völlig neue Anwendungsmöglichkeiten.

Doch wie lassen sich diese Technologien in bestehende Java-Anwendungen einbinden, ohne dass komplexe Frameworks oder externe Cloud-Dienste notwendig werden?

KI-Tools für Jakarta EE

Mon, 05 May 2025 07:04:10 +0000

Künstliche Intelligenz (KI) verändert die Welt der Softwareentwicklung, und so auch Jakarta EE. In der Vergangenheit verließen sich Entwickler bei der Erstellung von Anwendungen auf Projektgeneratoren, visuelle Gestalter und IDE-Autovervollständigung. Es mangelte diesen Instrumenten jedoch häufig an Anpassungsfähigkeit, Kontextbewusstsein und Effizienz. Dank KI-gestützter Tools wie Payara Starter und Jeddict AI Assistant sind diese Einschränkungen jetzt kein Problem mehr; sie beschleunigen außerdem Entwicklungsabläufe und ermöglichen es Entwicklern, sich auf Innovationen zu konzentrieren. In diesem Artikel wird anhand einer Konferenzanwendung als praktisches Beispiel untersucht, wie diese Werkzeuge die Entwicklung von Jakarta EE verbessern. Darüber hinaus werden zukünftige Möglichkeiten erörtert, darunter in Payara Server integrierte KI-Assistenten für die Einrichtung und Diagnose von Servern.

Entwicklung von KI-Anwendungen mit Spring AI

Wed, 16 Apr 2025 07:01:07 +0000

Künstliche Intelligenz (KI) wird für moderne Anwendungen immer wichtiger. Während KI unterschiedliche Technologien umfasst, ist der Fokus derzeit aufgrund der jüngsten Fortschritte bei großen Sprachmodellen (LLMs) auf Generative KI (GenAI).

Traditionell ist Python die dominierende Sprache für KI. Doch für Java-Entwickler, die Generative KI nutzen möchten, bietet das Spring AI Projekt eine attraktive Alternative. Es vereinfacht die Entwicklung von KI-gestützten Enterprise-Anwendungen erheblich und ermöglicht es, so mit der rasant fortschreitenden KI-Landschaft Schritt zu halten.

Spring AI abstrahiert komplexe Interaktionen mit verschiedenen KI-Anbietern, die REST APIs bereitstellen, darunter OpenAI, Anthropic, Microsoft, Google, Amazon und sogar lokalen LLMs. Durch diese Abstraktionen ist ein einfacher Wechsel zwischen verschiedenen Modellen möglich, gleichzeitig ist aber, wie in Spring üblich, gewährleistet, auf spezifische Funktionen und Konfigurationen einzelner Modelle zugreifen zu können.

Das Framework bietet eine Vielzahl an Funktionen, wie die Konvertierung von Modellausgaben in Java Objekte, Multimodalität, KI-bezogene Observability und Testunterstützung zur Bewertung von Modellausgaben, bereit.

Darüber hinaus unterstützt Spring AI fortgeschrittene Techniken wie Tool Calling, Retrieval-Augmented Generation (RAG) und das Model Context Protocol (MCP), um den Kontext von LLMs anzureichern.

Spring AI baut auf den Kernfunktionalitäten des Spring Frameworks und weiteren Spring Projekten wie Spring Data zur Integration von Vektor-Datenbanken auf. Durch die automatische Konfiguration von Spring Boot, wird die Entwicklung von KI-gestützten Funktionen erheblich vereinfacht und beschleunigt.\

Remote LLMs

Wed, 09 Apr 2025 07:02:56 +0000

und die Integration in Open WebUI

Im letzten Artikel https://javapro.io/de/lokale-llms haben wir gezeigt, wie man über Ollama lokal LLMs ausführt und Open WebUI als komfortables Interface für Anfragen an diese LLMs in Docker einrichtet. Außerdem wurde erläutert, wie sich OpenAI (also ChatGPT) in Open WebUI einbinden lässt.

In diesem Artikel geht es nun darum, wie sich die Claude-LLMs von Anthropic sowie Gemini von Google in Open WebUI integrieren lassen.

Zum Start eine kleine Vorbemerkung: Claude und Gemini werden nur in WebUI integriert, laufen aber selber nicht lokal. Und Anfragen sind (ähnlich wie bei OpenAI) kostenpflichtig.

Lokale LLMs

Tue, 14 Jan 2025 18:04:38 +0000

mit Ollama und Open WebUI

Seit dem kometenhaften Aufstieg von ChatGPT sind AI (Artificial Intelligence) und LLMs (Large Language Models) in aller Munde. Es gibt kaum jemanden, der ChatGPT (oder einer seiner Kollegen) nicht im beruflichen oder privaten Umfeld nutzt. Was weniger bekannt ist, dass man LLMs auch herunterladen und lokal laufen lassen kann.

Diese hat folgende Vorteile:

Verschiedene LLMs und Versionen lassen sich flexibel testen.
Da alles lokal läuft, können auch Anfragen mit geschäftsrelevanten Informationen gestellt werden, ohne dass Daten auf fremde Server gelangen.

Eine Möglichkeit dafür bietet das Open-Source-Projekt Ollama: Es erlaubt, kleinere LLMs herunterzuladen und direkt auf dem lokalen Rechner auszuführen. Dieser Artikel zeigt zunächst die Installation von Ollama. Anschließend wird ein benutzerfreundliches Web-UI eingerichtet, das den Zugriff auf Ollama deutlich komfortabler gestaltet.