Wenn ChatGPT Fehler macht: Wer haftet bei algorithmusbasierten Planungsfehlern?

Wann hat Künstliche Intelligenz (KI) so viel Raum eingenommen?

Den Startschuss hat ChatGPT mit dem ersten massentauglichen und benutzerfreundlichen Modell Ende 2022 initiiert. Zahlreiche weitere Anbieter haben sich inzwischen am Markt etabliert.

Und was genau steckt hinter der KI?

Grundsätzlich stecken hinter der KI Computersysteme, die durch maschinelles Lernen in der Lage sind, Aufgaben zu lösen, welche zuvor nur durch menschliche Intelligenz bewältigt werden konnten.

Die permanenten Trainingsmöglichkeiten für die KI aus den unterschiedlichsten Bereichen – wie Webseiten und sozialen Medien, Büchern und E-Books, wissenschaftlichen Aufsätzen, Zeitungsartikeln sowie eigenen und lizenzierten Datensätzen – ermöglichen in kürzester Zeit ein gigantisches Wachstum an Know-how.

Jede KI zieht also ihre Trainingsinhalte fortlaufend aus einer Vielzahl von Quellen und verfeinert ihr Wissen durch immer neue Daten, den Austausch mit anderen Systemen und die gezielte Optimierung der Algorithmen.

Vertrauen ist gut, Kontrolle ist besser!

In Europa hat man sich Ende 2022 direkt auf ein Gesetzespaket verständigt. Ziel der Vorschriften ist es, eine vertrauenswürdige KI in Europa zu fördern. Es ist zumindest ein Ansatz, um mehr Schutz vor den enormen Herausforderungen der KI-Systeme zu bieten.

Das KI-Gesetz unterteilt die KI-Systeme in vier Risikostufen:

1. Inakzeptables Risiko – Bedrohung für die Sicherheit, die Lebensgrundlagen und die Rechte der Menschen → Verboten
2. Hohes Risiko – enorme Risiken für die Gesundheit, die Sicherheit oder die Grundrechte → Reguliert
3. Begrenztes Risiko – Sicherstellen, dass es sich bei der Kommunikation um eine Maschine handelt, klare Kennzeichnung bei Deepfakes und Texten → Transparent
4. Minimales oder kein Risiko – die meisten KI-Systeme in der EU laufen derzeit in dieser Kategorie → Uneingeschränkt

Wo steht derzeit die KI für Ingenieur- und Architekturbüros?

Die Branche nimmt Fahrt auf und immer mehr KI-basierte Einsatzgebiete kommen zum Tragen. Darunter befinden sich einige Vorreiter und solche, die sich noch ganz am Anfang der möglichen Anwendungsbereiche befinden. Auf lange Sicht werden sie wohl kaum an den Neuerungen vorbeikommen.

Ingenieurbüros setzen KI z. B. in folgenden Arbeitsfeldern ein:

• Entwurfs- und Planungsunterstützung: KI hilft beim Generieren, Vergleichen und Optimieren technischer Lösungen durch generative Designtools.
• Datenanalyse: Analyse großer Mengen technischer Daten, Erkennen von Risiken und Verbesserungspotenzialen in Projekten, z. B. für Statik, Konstruktion und Gebäudetechnik.
• Simulationen und Modellierungen: KI ermöglicht virtuelle Tests für Bauwerke und Maschinen und steigert die Sicherheit durch simulationsgestützte Vorhersagen.
• Dokumenten- und Vertragsmanagement: Automatische Auswertung technischer Unterlagen, Organisation von Verträgen und Bauplänen, Effizienzsteigerung in der Verwaltung.
• Projektmanagement: Ressourcenplanung, Terminüberwachung und Risikoanalysen werden zunehmend KI-gestützt durchgeführt.
• Kommunikation und Kollaboration: Einsatz von KI-Chatbots und Assistenzsystemen für interne und externe Informationsvermittlung.
• Cybersecurity: KI schützt sensible Projektdaten vor Angriffen und unterstützt die Compliance.

Architekturbüros setzen folgende KI-Systeme ein:

• Generative Entwurfsoptimierung: Einsatz von KI zur kreativen Variantenbildung, Flächenplanung, Erschließungskonzepten und komplexen Grundrisslösungen.
• Kosten-, Energie- und Materialplanung: KI-Tools analysieren und optimieren Budgets, Materialauswahl und Energieverbrauch frühzeitig im Entwurf.
• BIM-Integration: KI prüft Entwurfs-, Genehmigungs- und Ausführungspläne auf Regelkonformität und synchronisiert BIM-Daten für alle Projektbeteiligten.
• Genehmigungsmanagement: Automatisierte Prüfung von Vorschriften, Simulation der Genehmigungsfähigkeit bereits während des Entwurfs.
• Projektkommunikation: KI-Assistenten unterstützen die Abstimmung im Team und mit Bauherren sowie die Dokumentation und das Protokollwesen.

Fazit: Sowohl in Ingenieur- als auch in Architekturbüros kommt KI zum Einsatz. Ingenieurbüros nutzen sie stärker für technische Analysen, Simulationen und Projektsteuerung, während Architekturbüros sie intensiver in kreativen Prozessen wie Entwurfsplanung und BIM einsetzen.

Wer trägt nun aber die Schuld, wenn es zu Planungsfehlern durch Algorithmen beim Einsatz von ChatGPT kommt?

Allgemein geht man davon aus, dass beim Einsatz von KI-Systemen die allgemeinen Haftungsregeln greifen, d. h. der jeweilige Planer wird für fehlerhafte Planungen oder Ausführungen zur Verantwortung gezogen.

Das KI-Gesetz, das auf europäischer Ebene im Jahr 2022 eingeführt wurde, bringt die Besonderheit mit sich, dass die KI-Verantwortlichen stärker in die Pflicht genommen werden. In diesem Zuge ist es inzwischen einfacher, die Hersteller von KI-Anwendungen zur Verantwortung zu ziehen, wenn es zu Schäden kommt. Dies geschieht durch die Einführung von Beweiserleichterungen und Offenlegungspflichten für die Anbieter von KI-Technologien.

Daraus geht hervor, dass beim Einsatz von KI-Systemen und daraus resultierenden Schäden nicht zwingend nur die Planenden zur Haftung gezogen werden. Erste Versicherungsanbieter haben in ihrem Portfolio bereits KI-Fehler oder Algorithmus-Risiken hinterlegt, die idealerweise Schäden in diesem Bereich abdecken. Die internationale Rechtsprechung ist noch in der Findungsphase, was neue gesetzliche Rahmenbedingungen für KI-Haftungen betrifft.

Aber Vorsicht

Die genaue Zuordnung eines Fehlers – ob nun der Algorithmus, die Datenqualität oder die menschliche Aktion zum letztendlichen Fehler geführt hat – ist oft schwer einzuschätzen und wird in letzter Instanz vermutlich vor Gericht geklärt. Eine passende Absicherung zu finden, hängt von verschiedenen Faktoren ab.