Sogenannte KI fängt auch gerne mal an zu "halluzinieren", d.h. der Chatbot erklärt Ihnen sehr selbstsicher völligen Quatsch, und das erkennen Sie im Zweifel eben nur mit Fachwissen. Dieses Verhalten lässt sich auch sehr leicht auslösen.
Also ich möchte da nicht im Saal sein, wenn der erste auf der Bank sitzt mit "Aber das hat mir der Chatbot so erklärt!" als Verteidigung 😅