Großer Hype um ChatGPT in der Medizin: Ist es etwas für den Rhythmologen? Was muss man bedenken?

• Published in: Herzschrittmachertherapie & Elektrophysiologie 2023-09, Vol.34 (3), p.240-245
• Main Authors: Haverkamp, W., Strodthoff, N., Tennenbaum, J., Israel, C.
• Format: Article
• Language: ger
• Subjects: Cardiac Imaging; Cardiac Surgery; Cardiology; Medicine; Medicine & Public Health; Reviews
• ISSN: 0938-7412; 1435-1544
• DOI: 10.1007/s00399-023-00960-5

Zusammenfassung ChatGPT, ein auf einem großen künstlichen Sprachmodell basierender Chatbot, erregt derzeit viel Aufmerksamkeit. Moderne, auf komplexen neuronalen Netzwerken beruhende Architekturen (sog. Transformer) erlauben ChatGPT, nahezu beliebige Fragen zu beantworten, Zusammenfassungen anzufertigen, zu übersetzen und eigenständig Texte zu generieren. All dies in einem auf Texteingaben basierenden Dialog mit dem Nutzer. Die zugrundeliegenden Technologien mit dem Akronym NLP (Natural Language Processing) gehen in die 1960er-Jahre zurück. In fast allen Bereichen weckt ChatGPT derzeit viele Hoffnungen. Medizinische Examina besteht ChatGPT problemlos; auch über einen Einsatz in Patientenbetreuung, Diagnostik und Therapie und der medizinischen Wissenschaft wird diskutiert. Die fast grenzenlose Begeisterung, die manche Medizinier dieser neuen Technik entgegenbringen, verwundert. Das System weiß zwar enorm viel, aber nicht alles; auch nicht alles, was es ausgibt, stimmt auch. Jede Ausgabe muss auf ihre Richtigkeit hin vom Nutzer sorgfältig kontrolliert werden – oft nicht einfach, da Quellenangaben fehlen. Auch existieren datenschutzrechtliche und ethisch-moralische Probleme. Heutige Sprachmodelle sind nicht frei von Vorurteilen und systematischer Verzerrung. Diese Unzulänglichkeiten haben Stimmen laut werden lassen, die eine stärkere Regulierung des Einsatzes von ChatGPT fordern. Potenzieller Nutzen und kommerzielle Aspekte dürften dazu führen, dass sich große Sprachmodelle wie ChatGPT zunehmend verbreiten werden. In unserem beruflichen Alltag werden sie immer mehr Platz einnehmen – auch in der Rhythmologie. Zukünftig wird es vor allem darauf ankommen, die Modelle fehlerfreier und transparenter zu gestalten sowie die Regeln für ihre Nutzung klar zu definieren. Eine verantwortungsvolle Nutzung erfordert systematische Schulungen zur Verbesserung der digitalen Kompetenz der Nutzer, einschließlich der Ärzte, die solche Programme einsetzen.