09/2022
Das (allgemeine) Recht der Cybersicherheit als Lückenschließer?
Jenseits des Rechts der Medizinprodukte und des Datenschutzrechts hält die bestehende Rechtsordnung nur wenige Pflichten vor, welche die IT-Sicherheit in den Verkehr gebrachter Gehirn-Computer-Schnittstelle adressieren.
a) Recht der Sicherheit in der Informationstechnik
Die Anforderungen an Betreiber Kritischer Infrastrukturen, die das Gesetz über das Bundesamt für Sicherheit in der Informationstechnik (BSIG) und die Verordnung zur Bestimmung Kritischer Infrastrukturen (BSI-KritisV) statuieren, finden auf Gehirn-Computer-Schnittstellen keine Anwendung. Denn bei der Technologie handelt es sich nicht um unmittelbar lebenserhaltende Medizinprodukte. Sie gehört daher nicht zu den Kritischen Infrastrukturen. Selbst wenn die Anbieter einer Schnittstelle auf Cloud-Computing-Dienste zurückgreifen, um Daten zu speichern oder zu verarbeiten, werden sie nicht selbst zu Anbietern digitaler Dienste (§ 2 Nr. 11 BSIG): Lediglich Anbieter der Rechenressourcen und Betreiber der Serverfarmen müssen Maßnahmen treffen, um die Risiken für die Sicherheit der Netz- und Informationssysteme zu bewältigen, die sie benutzen (§ 8c Abs. 1 BSIG).
Allerdings darf das BSI informationstechnische Produkte und Systeme untersuchen, die auf dem Markt bereitgestellt sind oder werden sollen (§ 7a Abs. 1 BSIG). Von seiner Kompetenz hat das BSI bereits in Kooperation mit mehreren Herstellern Gebrauch gemacht und zahlreiche Medizinprodukte geprüft: Bei jedem Produkt konnte es dabei Sicherheitsmängel feststellen.
b) Produktrecht
Anforderungen für nichtmedizinische Gehirn-Computer-Schnittstellen ergeben sich allenfalls aus dem Produktsicherheits- und Produkthaftungsrecht. Denn Sicherheitslücken können durchaus Produktfehler i. S. d. § 1 ProdHaftG sein. Wann insoweit die kritische Schwelle überschritten ist, dekretiert der unbestimmte Rechtsgriff „Stand der Technik“. Ihn konkretisieren Empfehlungen, Leitlinien und technischen Standards (z. B. DIN- oder ISO-Normen).
Allerdings schützt das Produktrecht nur das Eigentum sowie Körper, Gesundheit und Leben – nicht jedoch Persönlichkeits- und Vermögensinteressen. Mit Blick auf die drohenden Beeinträchtigungen der Datensicherheit und Privatheit, die von Cyberangriffen ausgehen, wäre das aber erforderlich. Zudem sind Sicherheitslücken in der Regel beim Inverkehrbringen nicht vorhersehbar, sondern werden erst im Nachhinein erkennbar (§ 1 Abs. 2 Nr. 2, Nr. 5 ProdHaftG).
c) Verbrauchervertragsrecht
Eine ausdrückliche Pflicht, digitale Produkte durch Updates aktuell und sicher zu halten, kannte das deutsche Recht lange Zeit nicht. Mit Art. 7 Abs. 3 der neuen Warenkauf-Richtlinie hält eine solche jedenfalls aber für Verbraucherprodukte in die Rechtsordnung Einzug. Den Weg in das nationale Recht ebnet § 475b Abs. 4 BGB. Auch die Vertragsmäßigkeit einer gekauften Ware soll sich künftig – je nach den Umständen des Einzelfalls – auf Anforderungen an Datenminimierung, Datenschutz durch Technik und datenschutzfreundliche Voreinstellungen erstrecken. So ist bspw. ein Verschlüsselungsprogramm vertragswidrig, wenn es konzeptionell nicht geeignet ist, einen unbefugten Zugriff auf die Daten zu verhindern. Ausschlaggebend ist, was ein Verbraucher vernünftigerweise erwarten kann. Die Anforderungen, an denen sich digitale Produkte messen lassen müssen, harren indes einer Konkretisierung.
d) Ausblick auf die unionale Verordnung zur Regulierung Künstlicher Intelligenz
Für Gehirn-Computer-Schnittstellen wird in absehbarer Zeit die Verordnung für Künstliche Intelligenz (KI-VO), welche die EU-Kommission kürzlich als Entwurf vorgelegt hat, normative Rahmenbedingungen vorgeben. Gehirn-Computer-Schnittstellen unterfallen dem Begriff „Künstliche Intelligenz“. Denn sie verwenden verschiedene statistische Methoden und maschinelles Lernen, um Gehirnsignale zu klassifizieren. Gehirn-Computer-Schnittstellen, die der MPVO unterfallen, stuft der Verordnungsentwurf als Hochrisiko-KI ein, sofern ihre Klassifizierungsalgorithmen Sicherheitskomponenten sind. Darunter fallen etwa Neurostimulatoren, die ihren Nutzer schädigen können, wenn sie fälschlicherweise elektrische Impulse abgeben oder ausfallen und z. B. epileptische Anfälle nicht verhindern oder lindern. Hochrisiko-KI spannt der Gesetzesvorschlag in ein engmaschiges Regulierungskorsett: Die Anbieter müssen die Genauigkeit, Robustheit und Cybersicherheit des KI-Systems gewährleisten sowie ein Risiko-, Qualitäts- und Überwachungsmanagement einführen. Insbesondere müssen solche Systeme gegen Versuche Dritter, Systemschwachstellen auszunutzen, widerstandsfähig sein. Während des Betriebs sollen die KI-Systeme Ereignisse in Logs festhalten, damit sie nachvollziehbar und überprüfbar sind. Werden Gehirn-Computer-Schnittstellen zur biometrischen Identifikation oder Emotionserkennung eingesetzt, sind die Nutzer hierüber zu informieren (Art. 52 (2) KI-VO).
Das Recht der Cybersicherheit von Gehirn-Computer-Schnittstellen als lückenhaftes Regulierungsmosaik
Das Medizinprodukterecht reguliert die Cybersicherheit von Gehirn-Computer-Schnittstellen bisher nur fragmentarisch. Es erfasst einerseits keine Verbraucher- bzw. nicht medizinische Geräte – und zwar selbst dann nicht, wenn ein solches Gerät (in der Zukunft) unmittelbar in den menschlichen Schädel implantiert wird; damit teilen Gehirn-Computer-Schnittstellen das Schicksal vieler anderer Geräte im „Internet der Dinge“. Zum anderen fallen Cyberangriffe auf Medizinprodukte, die „nur“ die Privatsphäre des Nutzers verletzen, nicht in das Regelungsregime der Vigilanz und unterliegen daher nicht der Meldepflicht.
Das Datenschutzrecht schließt diese Lücke nicht. Denn es hält nur Pflichten für die personenbezogene Datenverarbeitung durch den Verantwortlichen und den Auftragsverarbeiter, also die Prozesse einer Software, bereit. Den Hersteller der Hardware adressiert die DSGVO demgegenüber nicht unmittelbar. Das neue Verbrauchervertragsrecht erhöht aber im Gefolge der neuen Warenkauf-Richtlinie die IT-Sicherheit von Verbraucherprodukten: Sie knüpft die Vertragsmäßigkeit eines Produkts auch an dessen IT-Sicherheit und etabliert Aktualisierungspflichten.
Vorschläge für ein Regelungsregime der Cybersicherheit von Gehirn-Computer-Schnittstellen
Heute mag Neuroenhancement noch wie ein Subkulturphänomen wirken. In den nächsten Jahren werden sich jedoch mehr und mehr Menschen seinen vielfältigen technischen Möglichkeiten öffnen. Damit können weitreichende und bislang nicht absehbare Auswirkungen auf die Gesellschaft sowie die Menschheit als Ganzes einhergehen. Um der Gefahren Herr zu werden, die von Angriffen auf Gehirn-Computer-Schnittstellen ausgehen, ist der Staat aufgerufen, normative Lücken zu schließen und Vorsorgemaßnahmen zu ergreifen. Ansatzpunkte können nicht nur neue Vorschriften für Hersteller und Betreiber (I.), sondern auch eine Intensivierung bzw. Effektivierung der behördlichen Aufsicht (II.) sowie Haftungs- und Aufklärungspflichten für Hersteller, Betreiber und medizinisch-technisches Personal (III.) sein.
Regulierung von Gehirn-Computer-Schnittstellen
Ausweitung des Medizinprodukterechts
Bislang erfasst die Rechtsordnung Neuroimplantate nur bei medizinischer Zweckbestimmung (Art. 1 Abs. 2 i. V. m. Anhang XVI MPVO). Um den Sicherheitsrisiken implantierter Gehirn-Computer-Schnittstellen schlagkräftig zu begegnen, sollte der Unionsgesetzgeber den normativen Radius der MPVO pro futuro auf Implantate zu Enhancement-Zwecken ausweiten. Er könnte entweder konkrete Ausgestaltungen wie „Neuroimplantate“ oder den abstrakten Zweck des Enhancements in die Liste des Anhangs XVI MPVO aufnehmen. Konkrete Produktarten in die Liste aufzunehmen, hat den Nachteil, dass die Liste der dynamischen technischen Entwicklung ständig hinterherhinkt. „Cognitive Enhancement“ als normativer Anknüpfungspunkt hat demgegenüber den Charme auch künftige, noch nicht bekannte Technologien zu erfassen und mitzuregulieren. Dadurch fallen dann aber auch jegliche EEG-Headsets in den Anwendungsbereich der MPVO. Nichtmedizinische EEG-Headsets gehen in ihrer Invasivität typischerweise über Wearables wie Fitness-Tracker, Smartwatches oder Datenbrillen nicht hinaus: Sie erheben außerhalb des Körpers Daten, auch über physiologische Vorgänge (z. B. messen sie die Herzfrequenz oder – im Fall von EEG-Headsets – Gehirnwellen). Alle EEG-Headsets der MPVO zu unterwerfen, ist daher nicht angezeigt. Es mag zwar seltsam anmuten, die gleichen EEG-Systeme, die mal medizinischen, mal „privaten“ Zwecken dienen, unterschiedlichen Standards zu unterwerfen. Allerdings stellen die höheren Anforderungen an Medizinprodukte neben der Sicherheit auch die Leistung, insbesondere den klinischen Nutzen, sicher. Das Kardinalproblem privat genutzter EEG-Headsets liegt dagegen schwerpunktmäßig im Datenschutz und der datenschutzkonformen Ausgestaltung des Produkts.
Mit Blick auf diese Risiken empfiehlt es sich, den Begriff des Medizinprodukts so zu verändern, dass er gleichermaßen Enhancement umfasst, z. B. indem die MPVO auf die Interaktion des Produkts mit dem Körper oder auf die Risiken für den Nutzer abstellt. Hierdurch schlüpfen jegliche stimulierende und implantierte Gehirn-Computer-Schnittstellen unter den Schirm des Medizinprodukterechts, ohne rein messende, nicht invasive EEG-Geräte miteinzubeziehen.
Security by Design
Über den Anwendungsradius der MPVO hinaus sollte der Normgeber auch in materieller Hinsicht nachjustieren – sowohl an den Anforderungen an Produkte sowie an den Herstellerpflichten.
Die bisher erarbeiteten, feinteiligen Leitlinien der Koordinierungsgruppe Medizinprodukte zur Gewährleistung der Cybersicherheit von Medizinprodukten erfüllen zwar eine wichtige Orientierungsfunktion. Ihre Steuerungswirkung leidet aber unter ihrem Empfehlungscharakter: Die Hersteller sind nicht verpflichtet, ihnen Folge zu leisten. Die wichtigsten Mindestanforderungen (z. B. Verschlüsselung, sichere Authentifizierung und Angriffserkennungssoftware) sollte die Richtlinie in den Anhang I (Nr. 17) aufnehmen und ihnen hierdurch normative Bindungswirkung verleihen. Bspw. sollte sie als Grundsatz ausdrücklich und verbindlich festlegen, dass Medizinprodukte ruhende Daten verschlüsseln müssen und nur verschlüsselt mit anderen Geräten kommunizieren dürfen.
Im Rahmen der MPVO sollte die Koordinierungsgruppe Medizinprodukte weitergehende Anforderungen an die Technikgestaltung formulieren und – ggf. in Abstimmung mit Datenschutzbeauftragten und Cybersicherheitsbehörden – Basismaßstäbe für Security by Design festlegen. Dieser Katalog muss sich dynamisch an aktuelle Bedrohungen anpassen. Bspw. reicht es dann nicht mehr, nur den Benutzerzugriff sicher zu gestalten. Wenn sich Medizinprodukte automatisiert aktualisieren, sollten sie zudem verifizieren, dass die Updates tatsächlich vom Hersteller stammen und unverfälscht sind.
Für Apps, die via Gehirn-Computer-Schnittstelle (oder auf andere Weise) Gesundheitsdaten verarbeiten, ließen sich integrierte Filter vorschreiben, die nur bestimmte Gehirnsignale zur Auswertung gelangen lassen. Medizinprodukte können dann nur solche Daten verarbeiten und speichern, die erforderlich sind, um ihre Funktion zu erfüllen – und gerade nicht das gesamte Spektrum der gemessenen neuronalen Aktivitäten. Denkbar ist auch die Vorgabe, Gehirnsignale (soweit sie nicht für den jeweiligen Einsatzzweck zwingend erforderlich sind) erst dann auswerten zu dürfen, nachdem sie einen Anonymisierungsmechanismus durchlaufen haben. Zusätzlich könnte der Gesetzgeber Betreiber von App-Plattformen für Gehirn-Computer-Schnittstellen dazu verpflichten, die dort angebotenen Anwendungen auf ihre Sicherheit und Vertrauenswürdigkeit hin zu überprüfen, bevor sie zum Download freistehen.
Als Ausdruck eines digitalen Verbraucher- und Patientenschutzes sollten die Aufklärungs- und Informationspflichten der Hersteller und Ärzte verstärkt die Risiken und Besonderheiten der IT-Sicherheit einbeziehen, namentlich zusätzlich zu den besonderen Aufklärungspflichten über die gesundheitlichen Risiken auch zur Aufklärung über die IT-Sicherheit verpflichten. Wer eine Schnittstelle nutzt, sollte z. B. einen Hinweis erhalten, was bei ihrer Kopplung mit einem Smartphone zu beachten ist.
Konsequenzen von Vorkommnissen
Bislang ziehen nur schwerwiegende Vorkommnisse mit gravierenden Gefahren für die Patientensicherheit strenge Vigilanz-Pflichten der Hersteller nach sich. Auch unterhalb dieser Schwelle können Medizinprodukte, insbesondere Neurostimulatoren, im Fall eines Cyberangriffs aber gefährliche Folgen zeitigen. Statt es den Herstellern zu überlassen, solche Sicherheitslücken zu beheben, sollten sie auch hier die zuständigen Behörden über Vorkommnisse und Sicherheitskorrekturen informieren müssen, damit diese das Produkt überprüfen und ggf. Maßnahmen (Art. 94, 95 MPVO) einleiten können.
Insgesamt kommt im Medizinprodukterecht der Schutz der Privatsphäre im Vergleich zum Schutz der Patientensicherheit derzeit zu kurz: Gefährdet eine Sicherheitslücke die Vertraulichkeit des Medizinprodukts, löst dies nur Korrektur-, nicht aber Meldepflichten des Herstellers aus. Es greifen lediglich die Meldepflichten aus Art. 33 DSGVO gegenüber der datenschutzrechtlichen Aufsichtsbehörde – allerdings nur, sofern der Hersteller einer Gehirn-Computer-Schnittstelle zugleich auch datenschutzrechtlicher Verantwortlicher ist. Die datenschutzrechtlichen Pflichten und das Medizinprodukterecht verdichten sich mithin nicht zu einem vollständigen Schutzportfolio: In Fällen, in denen der Hersteller nicht Verantwortlicher ist, erfasst weder das Medizinprodukte- noch das Datenschutzrecht die Gewährleistung der Vertraulichkeit. Hier sollte der Normgeber dringend nachbessern. Die MPVO sollte im Einzelnen konkretisieren, welche Pflichten bestehen, wenn die Privatheit und informationelle Selbstbestimmung der Patienten gefährdet sind.
Dass Medizinprodukte zunehmend vernetzt sind und – nicht zuletzt aufgrund des demografischen Wandels – immer stärker zum Einsatz kommen, macht es unerlässlich, auf Sicherheitslücken schnell zu reagieren. Die Leitlinien der Koordinierungsgruppe Medizinprodukte formulieren bereits Vorgaben für die Abläufe, Prozesse und Organisation des Managements von Vorkommnissen. Das Anforderungstableau sollte künftig in Gestalt eines delegierten Rechtsaktes verbindliche Regeln formulieren, bedarf dafür aber zugleich noch weiterer und konkreterer Vorgaben.
Im Anschluss an ein Vorkommnis kann es erforderlich sein, das Medizinprodukt erneut zu prüfen und zu bewerten, jedenfalls aber sollte es verpflichtend sein, den Mangel aufzuarbeiten und forensisch zu analysieren. Zur Konkretisierung sollten auch insoweit delegierte Rechtsakte entstehen. Eine Blaupause liefert das Recht der IT-Sicherheit: Betreiber Kritischer Infrastrukturen müssen mindestens alle zwei Jahre einen Nachweis gegenüber dem BSI darüber erbringen, dass sie alle Anforderungen an die IT-Sicherheit erfüllen (§ 8a Abs. 3 BSIG). Das BSI kann prüfen, ob die Betreiber die Vorgaben tatsächlich einhalten (§ 8a Abs. 4 BSIG). Eine ähnliche turnusmäßige Überprüfung bietet sich – jedenfalls für risikoreiche Produktklassen – an. Bislang sieht die MPVO lediglich die Prüfung von Sicherheitsberichten (Art. 86 Abs. 2 MPVO) und Stichproben-Kontrollen vor (Art. 93 Abs. 1 MPVO).
Behördliche Aufsicht
Neben der Regulierung von Gehirn-Computer-Schnittstellen gilt es, eine wirksame behördliche Aufsicht über die Einhaltung der Vorgaben sicherzustellen. Bislang teilt sich ein kleinteiliges Mosaik unterschiedlicher Behörden die Zuständigkeit auf: neben den Datenschutzbehörden vor allem das Bundesinstitut für Arzneimittel und Medizinprodukte (BfArM) und das BSI. Zusätzlich bestehen sporadische Zuständigkeiten des Bundesamts für Verbraucherschutz und Lebensmittelsicherheit (BVL) und der Marktüberwachungsbehörden.
Die verschiedenen Behörden verfügen jeweils über einen eng begrenzten Kompetenz- und Erfahrungsschatz. Fragmentierte Zuständigkeiten erschweren es, die Risiken von Gehirn-Computer-Schnittstellen ganzheitlich zu erfassen. Schon aus verfassungsrechtlichen Gründen lassen sich die Zuständigkeiten der Behörden aber nicht ohne Weiteres in den Händen einer einzelnen Bundesbehörde bündeln. Empfehlenswert ist es jedenfalls, die Zusammenarbeit der Behörden im Kooperationsgruppen zu optimieren. Z. B. könnten Mitarbeiter des BfArM, die Erfahrung bei der Aufsicht über Medizinprodukte gesammelt haben, gemeinsam mit IT-Sicherheitsexperten des BSI im Tandem Produkte auswählen und überprüfen oder Konzepte zur Fortentwicklung der IT-Sicherheit (ggf. gemeinsam mit den Herstellern) erarbeiten.
Die Exekutive könnte überdies noch stärker eine Schlüsselrolle beim Vorfallsmanagement übernehmen: Sie kann eine zentrale Meldestelle einrichten, die Vorkommnisse – ähnlich der National Vulnerability Database in den USA – in Datenbanken aufnimmt und öffentlich zugänglich macht. Das BSI könnte unmittelbar an der Beseitigung von Störungen mitwirken, Maßnahmen hierzu anordnen oder (auf Ersuchen des Herstellers oder Verantwortlichen) diese Maßnahmen selbst treffen.
Fazit
Gehirn-Computer-Schnittstellen beflügeln nicht nur die Vision, die kognitiven Möglichkeiten des Menschen zu erweitern, seine Gedanken zu lesen sowie ihn eines Tages gar mit künstlicher Intelligenz zu verschmelzen. Als Kehrseite machen sie es in Zukunft auch technisch möglich, gehirnbasierte Lügendetektoren zu verwenden, Daten einer Gehirn-Computer-Schnittstelle als Beweismittel heranzuziehen oder ähnlich einer Telekommunikations- oder Quellentelekommunikationsüberwachung Neuroenhancement-Produkte des Terrorismus Verdächtigter zu überwachen.
Je stärker nicht nur Smartphones, Wearables und Smart-Home-Produkte, sondern auch Neurotechnologien unser Privat- und Intimleben steuern, umso mehr müssen Gehirn-Computer-Schnittstellen nicht nur im physischen Sinne sicher sein, sondern auch ihre Integrität und Vertraulichkeit als IT-Systeme gewährleisten.
Einzelne Anforderungen an die Cybersicherheit von Gehirn-Computer-Schnittstellen formuliert die Rechtsordnung bereits. Ein vollständiges Regelungskonzept, das die Sicherheit der Anwendungen hinreichend verbürgt, lässt sie aber vermissen. Während das Medizinprodukterecht die IT-Sicherheit jedenfalls mit Blick auf die Patientensicherheit reguliert, gilt für nichtmedizinische Gehirn-Computer-Schnittstellen das gleiche (niedrige) Schutzniveau, das auch alle anderen vernetzten Geräte im Internet der Dinge erfüllen müssen. Die offenen Regelungslücken bei (nichtmedizinischen) Gehirn-Computer-Schnittstellen legen einen grundlegenden Mangel des gesamten Regelungsgeflechts offen: Der Gesetzgeber versteht Cybersicherheit trotz allgegenwärtiger Vernetzung noch nicht als integralen Bestandteil und notwendige Anforderung an digitale Produkte.
Nur das Datenschutzrecht fängt bislang sicherheitsrelevante Verletzungen der Privatsphäre auf einer allgemeinen Ebene ab. Es ist allerdings nicht auf die spezifischen Gefahren von Gehirn-Computer-Schnittstellen zugeschnitten. Sein Fokus richtet sich seinem Wesen nach nur auf Datenverarbeitungsprozesse, erfasst aber nicht unmittelbar die Anforderungen für sichere datenverarbeitende Produkte, die Hersteller einzuhalten haben.
Die neuen EU-Richtlinien zu digitalen Produkten können die klaffenden Lücken immerhin ein Stück weit schließen. Der Unternehmer ist verpflichtet, Software-Updates bereitzustellen, um die Vertragsmäßigkeit aufrechtzuerhalten. Auch der Verordnungsentwurf der EU-Kommission zur KI-Regulierung sieht strenge Anforderungen an jene Sicherheitskomponenten vor, die auf KI-Systemen basieren.
Hinter den Idealanforderungen bleibt der rechtliche Status quo indes weit zurück – anders als bspw. im Spiel Cyberpunk 2077. Dort ist das medizinisch-technische Personal des Konzerns Trauma Team perfekt darauf vorbereitet, Menschen zu retten, die physischen Verletzungen oder Cyberangriffen zum Opfer gefallen sind: Implantate wählen bei einer Fehlfunktion eigenständig den Notruf und Trauma Team repariert das Gerät oder tauscht es in Windeseile aus – sofern hierfür der erforderliche (und teure) Versicherungsschutz besteht. Eine Vollkaskoabsicherung für Gehirn-Computer-Schnittstellen wird es in der Realwelt der Zukunft nicht geben. Für ein adäquates Sicherheitsniveau sollte der Gesetzgeber aber zeitnah sorgen. Sonst erfasst das vielbeschworene Internet der Unsicherheiten nicht nur das Internet der Dinge, sondern auch unsere Körper – und Gehirne.
Mario Martini, Carolin Kemper: Cybersicherheit von Gehirn-Computer-Schnittstellen; International Cybersecurity Law Review; 2022
https://doi.org/10.1365/s43439-022-00046-x
http://creativecommons.org/licenses/by/4.0/deed.de
Zur einfacheren Lesbarkeit wurden die Quellenverweise und Fussnoten entfernt.