Studie: KI-Codierungsassistenten können zu unsicherem Code führen, Entwickler sollten Vorsicht walten lassen

Forscher sagen, dass Entwickler, die sich beim Schreiben von Code auf KI-Assistenten (künstliche Intelligenz) verlassen, bei ihrer Entwicklungsarbeit zu selbstsicher werden, was zu weniger sicherem Code führt.

Eine kürzlich von der Stanford University durchgeführte Studie ergab, dass KI-basierte Codierungsassistenten (wie Copilot von GitHub) Entwickler über die Qualität ihrer Arbeit verwirren können, was zu Software führen kann, die möglicherweise fehlerhaft und weniger sicher ist. Ein KI-Experte sagt, dass es für Entwickler wichtig sei, ihre Erwartungen zu berücksichtigen, wenn sie KI-Assistenten für solche Aufgaben einsetzen.

KI-Codierung führt zu weiteren Sicherheitslücken

Die Studie führte ein Experiment mit 47 Entwicklern durch, von denen 33 beim Schreiben von Code einen KI-Assistenten verwendeten, während eine Kontrollgruppe aus 14 Personen allein Code schrieb. Sie müssen fünf sicherheitsrelevante Programmieraufgaben erledigen, darunter das Verschlüsseln oder Entschlüsseln von Zeichenfolgen mithilfe symmetrischer Schlüssel. Sie alle können mithilfe eines Webbrowsers Hilfe erhalten.

KI-Assistententools für Codierung und andere Aufgaben erfreuen sich immer größerer Beliebtheit, und GitHub im Besitz von Microsoft wird Copilot im Jahr 2021 als Technologievorschau auf den Markt bringen, um die Entwicklerproduktivität zu steigern.

Microsoft wies in einem im September dieses Jahres veröffentlichten Forschungsbericht darauf hin, dass GitHub Entwickler effizienter macht. 88 % der Befragten gaben an, dass Copilot beim Codieren effizienter sei, und 59 % sagten, seine Hauptvorteile seien die schnellere Erledigung wiederkehrender Aufgaben und die schnellere Codierung.

Forscher der Stanford University wollten wissen, ob Benutzer mit KI-Assistenten unsichereren Code schreiben, und stellten fest, dass dies tatsächlich der Fall ist. Entwickler, die KI-Assistenten einsetzen, seien weiterhin desillusioniert von der Qualität ihres Codes, heißt es.

Das Team schrieb in dem Papier: „Wir haben beobachtet, dass Entwickler, die Hilfe von einem KI-Assistenten erhielten, im Vergleich zu Entwicklern in der Kontrollgruppe bei den meisten Programmieraufgaben eher Sicherheitslücken einführten, aber auch häufiger Sicherheitslücken einführten.“ In den meisten Programmieraufgaben wurden unsichere Antworten als sicher eingestuft. Darüber hinaus ergab die Studie, dass Entwickler, die mehr in die Erstellung von Abfragen an den KI-Assistenten investierten (z. B. die Übernahme von KI-Assistentenfunktionen oder die Anpassung von Parametern), letztendlich eher sichere Lösungen lieferten .

Dieses Forschungsprojekt verwendete nur drei Programmiersprachen: Python, C und Verilog. Es umfasst eine relativ kleine Anzahl von Teilnehmern mit unterschiedlicher Entwicklungserfahrung, von Hochschulabsolventen bis hin zu erfahrenen Profis, die speziell entwickelte Anwendungen verwenden, die von Administratoren überwacht werden.

Die ersten Experimente wurden in Python geschrieben, während diejenigen, die mit Hilfe von KI-Assistenten geschrieben wurden, eher unsicher oder fehlerhaft waren. In der Kontrollgruppe ohne die Hilfe von KI-Assistenten schrieben 79 % der Entwickler Code ohne Qualitätsprobleme; in der Kontrollgruppe mit Hilfe von KI-Assistenten schrieben nur 67 % der Entwickler Code ohne Qualitätsprobleme.

Benutzen Sie KI-Codierungsassistenten mit Bedacht

Wenn es um die Sicherheit des von ihnen erstellten Codes geht, wird es noch schlimmer, da Entwickler, die KI-Assistenten einsetzen, eher dazu neigen, unsichere Lösungen bereitzustellen oder einfache Passwörter zum Ver- und Entschlüsseln von Zeichenfolgen zu verwenden. Es ist auch weniger wahrscheinlich, dass sie Plausibilitätsprüfungen der Endwerte durchführen, um sicherzustellen, dass der Prozess wie erwartet funktioniert.

Forscher der Stanford University sagen, dass die Ergebnisse darauf hindeuten, dass weniger erfahrene Entwickler möglicherweise dazu neigen, KI-Assistenten zu vertrauen, allerdings auf die Gefahr hin, neue Sicherheitslücken einzuführen. Daher wird diese Forschung dazu beitragen, das Design zukünftiger KI-Code-Assistenten zu verbessern und zu steuern.

Peter van der Putten, Direktor des KI-Labors beim Softwareanbieter Pegasystems, sagte, dass die Forschung zwar klein sei, die Forschung aber sehr interessant sei und die Ergebnisse weitere Forschungen zum Einsatz von KI-Assistenten in der Codierung und anderen Bereichen inspirieren könnten . „Dies steht auch im Einklang mit den Ergebnissen einiger unserer umfassenderen Untersuchungen zur Abhängigkeit von KI-Assistenten“, sagte er. Er warnte, dass Entwickler, die KI-Assistenten einführen, schrittweise Vertrauen in das Tool gewinnen und sich nicht darauf verlassen sollten es zu viel, und verstehen Sie seine Grenzen. Er sagte: „Die Akzeptanz einer Technologie hängt nicht nur von den Erwartungen an Qualität und Leistung ab, sondern auch davon, ob sie Zeit und Aufwand spart. Insgesamt stehen die Menschen dem Einsatz von KI-Assistenten positiv gegenüber, solange ihre Erwartungen erfüllt werden.“ Dies bedeutet, Best Practices für die Verwendung dieser Tools zu definieren und potenzielle zusätzliche Funktionen zum Testen der Codequalität zu übernehmen

Das obige ist der detaillierte Inhalt vonStudie: KI-Codierungsassistenten können zu unsicherem Code führen, Entwickler sollten Vorsicht walten lassen. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!