Einfluss von Künstlicher Intelligenz auf die Cybersicherheitslandschaft 2023 untersucht

Während das rasante Tempo des technologischen Fortschritts und des gesellschaftlichen Wandels anhält, hat sich der Begriff "Künstliche Intelligenz" fest an der Spitze der globalen Agenda positioniert. Mit der zunehmenden Verbreitung großer Sprachmodelle (LLMs) und den damit verbundenen wachsenden Bedenken hinsichtlich Sicherheit und Datenschutz wird KI direkt mit der Welt der Cybersicherheit in Verbindung gebracht.

Kaspersky-Forscher zeigen auf, wie KI-Tools Cyberkriminelle im Jahr 2023 bei ihren böswilligen Aktivitäten unterstützt haben, und beleuchten gleichzeitig die potenziellen Anwendungen dieser Technologie im Verteidigungsbereich.

In ihrem neuesten Bericht legen Kaspersky-Experten den tiefgreifenden Einfluss von Künstlicher Intelligenz auf die Cybersicherheitslandschaft des Jahres 2023 dar und gehen zudem darauf ein, wie sich KI-bezogene Bedrohungen in Zukunft verändern könnten.

Die Analyse, die mit einem vielschichtigen Ansatz durchgeführt wurde, untersucht die Auswirkungen von KI, konzentriert sich auf deren Nutzung durch Cybersicherheitsexperten und Regulierungsbehörden und bewertet, wie sie potenziell von Cyberkriminellen missbraucht werden könnte.

Den Informationen zufolge werden neue und komplexe Sicherheitslücken an der Schnittstelle zwischen generativer KI und traditionellen Technologien entstehen, sobald LLMs, die bestimmte Anweisungen befolgen können, in mehr verbraucherorientierte Produkte integriert werden. Dies wird dazu führen, dass sich die Angriffsfläche, die Cybersicherheitsexperten absichern müssen, vergrößert. Dies erfordert, dass Entwickler an neuen Sicherheitsmaßnahmen arbeiten, wie etwa einer Benutzerbestätigung für Aktionen, die von LLM-Agenten initiiert werden.

Red-Team-Mitglieder und Forscher werden generative KI für innovative Cybersicherheits-Tools nutzen, was den Weg für LLM- oder auf maschinellem Lernen (ML) basierende Assistenten ebnet. Dieses Tool hat das Potenzial, die Aufgaben von Red Teams zu automatisieren, indem es Anleitungen basierend auf Befehlen bietet, die in einer Pentesting-Umgebung ausgeführt werden.

Im kommenden Jahr werden Betrüger ihre Taktiken durch den Einsatz künstlicher neuronaler Netze verstärken und KI-Tools nutzen, um überzeugendere gefälschte Inhalte zu erstellen. Böswillige Akteure, die mühelos überzeugende Bilder und Videos produzieren können, werden das Risiko erhöhen, Cyberbedrohungen im Zusammenhang mit Betrug und Täuschung zu eskalieren.

Trotz der oben genannten Entwicklungen stehen Kaspersky-Experten der Annahme, dass KI die Bedrohungslandschaft in naher Zukunft grundlegend verändern wird, skeptisch gegenüber. Während Cyberkriminelle generative KI übernehmen, gilt dasselbe für Cybersicherheitsexperten, die fortschrittliche Tools testen werden, um die Sicherheit von Software und Netzwerken zu erhöhen. Dies macht eine grundlegende Veränderung der Angriffslandschaft unwahrscheinlich.

Mit der technologischen Entwicklung gehen auch entsprechende Anpassungen und Regulierungen einher. In diesem Sinne wird auch die Zahl der regulatorischen Initiativen im Bereich der KI zunehmen. Nicht-staatliche Akteure wie Technologieunternehmen können angesichts ihrer Expertise in der Entwicklung und Nutzung von KI wertvolle Erkenntnisse für Diskussionen über KI-Regulierungen auf globaler und nationaler Ebene liefern.

KENNZEICHNUNG VON KI-GENERIERTEN INHALTEN

Den Angaben zufolge werden neben mehr Regulierungen auch neue Richtlinien für Dienstanbieter erforderlich sein, um synthetische Inhalte zu kennzeichnen oder zu identifizieren. Infolgedessen werden Dienstanbieter weiterhin in Erkennungstechnologien investieren.

Entwickler und Forscher werden ihrerseits Methoden zur Wasserzeichensetzung bei synthetischen Medien beitragen, um eine einfachere Identifizierung und Quellenangabe zu ermöglichen.

Der Kaspersky-Sicherheitsexperte Vladislav Tushkanov, dessen Ansichten in der Erklärung wiedergegeben wurden, sagte: "KI in der Cybersicherheit ist wie ein zweischneidiges Schwert. Die anpassungsfähigen Fähigkeiten der KI können unsere Verteidigung stärken, indem sie einen proaktiven Schutz gegen sich entwickelnde Bedrohungen bieten. Dieselbe Dynamik kann jedoch auch dazu führen, dass Angreifer KI nutzen, um noch ausgefeiltere Angriffe durchzuführen. Das richtige Gleichgewicht zu finden, indem man verantwortungsbewusst handelt, ohne sensible Daten übermäßig preiszugeben, ist entscheidend, um unsere digitalen Grenzen zu sichern."

Nachrichtenquelle: AA

Verwandte Nachrichten

Expertenanalyse: Bedroht künstliche Intelligenz die akademische Integrität?

Kann künstliche Intelligenz exklusive Nachrichten schreiben? Kritische Einschätzung vom Experten

Künstliche Intelligenz hatte Ergebnis für das Derby Beşiktaş-Fenerbahçe vorhergesagt: Googles KI hat versagt