Künstliche Intelligenz (KI) kann die Biodiversitätsforschung unterstützen, etwa indem sie Daten anreichert oder Visualisierungen erstellt, schreiben die Autoren. Gleichzeitig bestehe jedoch die Gefahr, dass KI-generierte oder KI-manipulierte Fotos, Audioaufnahmen und Videos von Wildtieren auf Citizen-Science-Plattformen wie iNaturalist zu Datenfälschungen und Desinformation führen. Auf solchen Plattformen werden jährlich Millionen von Bildern, Tonaufnahmen und Videos gespeichert. Diese Daten bilden zunehmend die Grundlage für das Wissen über die Verbreitung von Arten sowie über deren räumliche, zeitliche und verhaltensbezogene Entwicklungen. Ihr wissenschaftlicher Nutzen werde jedoch erheblich beeinträchtigt, wenn die Datenbanken zunehmend mit Medieninhalten gefüllt würden, die von KI-gestützten Text-zu-Bild-Modellen erzeugt wurden. Dies könne zu falschen ökologischen Schlussfolgerungen führen.
Besonders problematisch ist für die Wissenschaftler die absichtliche Einreichung KI-generierter Bilder, die als echte Naturbeobachtungen ausgegeben werden. Gefälschte Beobachtungsdaten seien zwar kein neues Phänomen. Neu sei jedoch die Möglichkeit, täuschend echte Fotos in hoher Qualität künstlich zu erzeugen – so überzeugend, dass sie selbst für Fachleute nur schwer zu erkennen sind.
Für ihre Studie entdeckten die Autoren mehrere Hundert solcher Einreichungen in Datenbanken, mit denen sie vertraut sind – unter anderem in der Macaulay Library (rund 93,9 Millionen Bilder), auf iNaturalist (etwa 500 Millionen Bilder) sowie auf der brasilianischen ornithologischen Citizen-Science-Plattform WikiAves (6,2 Millionen Bilder). Wie weit das Problem tatsächlich verbreitet ist, bleibt jedoch unklar, da vermutlich zahlreiche KI-generierte Bilder unentdeckt bleiben.
Ein zweites und wahrscheinlich deutlich häufigeres Problem sei die übermässige Bildbearbeitung mithilfe generativer KI. Solche Bearbeitungen können Bildartefakte erzeugen oder wichtige Bestimmungsmerkmale einer Art verändern oder entfernen. Dadurch steigt das Risiko von Fehlbestimmungen.
Die Autoren stützen sich dabei auf einen realen Fall: Ein vermeintlicher Erstnachweis eines Rotflügelstärlings (Agelaius phoeniceus) in Brasilien, einer nordamerikanischen Zugvogelart, wurde auf iNaturalist veröffentlicht. Später stellte sich heraus, dass das Bild ursprünglich einen Epaulettenstirnvogel (Icterus cayanensis) zeigte, eine in der Region häufige Art. Das Foto war mit Googles KI-Bildeditor überarbeitet worden und ähnelte anschliessend auffallend stark dem Rotflügelstärling, einer Art, die vermutlich häufiger in den Trainingsdaten des Modells vorkommt. Der Nutzer hatte keine Täuschungsabsicht, sondern wollte lediglich die Bildqualität verbessern. Die Autoren konnten diesen Fehler durch eigene KI-Bildbearbeitungen nachvollziehen.
Um die Qualität biologischer Beobachtungsdaten sicherzustellen, sollten Citizen-Science-Plattformen bessere Verfahren zur Authentifizierung von Bildern entwickeln. Dazu gehöre auch die Aufklärung der Nutzenden über die Folgen KI-generierter oder übermässig bearbeiteter Bilder.
iNaturalist hat bereits neue Funktionen eingeführt. Verdächtige Bilder können dort als «übermässig bearbeitet» oder als «vollständig künstlich erzeugt» markiert werden. Diese KI-generierten Bilder werden anschliessend ausgeblendet. Bislang wurden rund 600 Bilder entsprechend gekennzeichnet. Bilder, die Organismen oder Szenen verfälscht darstellen, können zudem zur Datenqualitätsbewertung gemeldet werden. In beiden Fällen erscheint die Beobachtung standardmässig nicht mehr in den Suchergebnissen.
