ASU-Forscher verbinden Sicherheit und KI

von Annelise Krafft | 1. August 2023 | Features, Fulton Schools

Die rasanten Fortschritte auf dem Gebiet der künstlichen Intelligenz (KI) beweisen, dass die Technologie ein unverzichtbarer Vorteil ist. Im Bereich der nationalen Sicherheit legen Experten einen Kurs für die Auswirkungen von KI auf unsere kollektive Verteidigungsstrategie fest.

Paulo Shakarian steht an der Spitze dieser wichtigen Arbeit und nutzt sein Fachwissen über symbolische KI und neurosymbolische Systeme, bei denen es sich um fortschrittliche Formen der KI-Technologie handelt, um den anspruchsvollen Anforderungen nationaler Sicherheitsorganisationen gerecht zu werden.

Shakarian, außerordentlicher Professor für Informatik an der School of Computing and Augmented Intelligence, Teil der Ira A. Fulton Schools of Engineering der Arizona State University, wurde zur Teilnahme an AI Forward eingeladen, einer Reihe von Workshops, die von der US Defense Advanced veranstaltet werden Agentur für Forschungsprojekte oder DARPA.

Die Veranstaltung umfasst zwei Workshops: ein virtuelles Treffen, das Anfang des Sommers stattfand, und eine persönliche Veranstaltung in Boston vom 31. Juli bis 2. August.

Shakarian gehört zu den 100 Teilnehmern, die daran arbeiten, die Initiative der DARPA voranzutreiben, neue Richtungen für die KI-Forschung zu erkunden, die sich auf ein breites Spektrum verteidigungsbezogener Aufgaben auswirken, darunter autonome Systeme, Geheimdienstplattformen, militärische Planung, Big-Data-Analyse und Computer Vision.

Beim Workshop in Boston wird Shakarian von Nakul Gopalan begleitet, einem Assistenzprofessor für Informatik, der ebenfalls ausgewählt wurde, an der Veranstaltung teilzunehmen, um zu erkunden, wie seine Forschungen zur Mensch-Roboter-Kommunikation dazu beitragen könnten, die Ziele von DARPA zu erreichen.

Zusätzlich zu seinem Engagement bei AI Forward bereitet Shakarian die Veröffentlichung eines neuen Buches im September 2023 vor. Das Buch mit dem Titel „Neuro-symbolic Reasoning and Learning“ wird die letzten fünf Jahre der Forschung im Bereich neurosymbolischer KI untersuchen und den Lesern helfen die jüngsten Fortschritte auf diesem Gebiet verstehen.

Während Shakarian und Gopalan sich auf die Workshops vorbereiteten, nahmen sie sich einen Moment Zeit, um ihre Forschungsexpertise und Gedanken zur aktuellen KI-Landschaft auszutauschen.

Erläutern Sie Ihre Forschungsgebiete. Auf welche Themen konzentrieren Sie sich?

Paulo Shakarian: Mein Hauptaugenmerk liegt auf symbolischer KI und neurosymbolischen Systemen. Um sie zu verstehen, ist es wichtig, darüber zu sprechen, wie KI heute aussieht, vor allem als Deep-Learning-Neuronale Netze, die im letzten Jahrzehnt eine wunderbare technologische Revolution darstellten. Betrachtet man Probleme, die speziell für das US-Verteidigungsministerium (DoD) relevant sind, zeigten diese KI-Technologien keine gute Leistung. Es gibt mehrere Herausforderungen, darunter Black-Box-Modelle und ihre Erklärbarkeit, Systeme, die nicht von Natur aus modular sind, weil sie durchgängig trainiert werden, und die Durchsetzung von Einschränkungen, um Kollisionen und Interferenzen zu vermeiden, wenn mehrere Flugzeuge denselben Luftraum teilen. Bei neuronalen Netzen gibt es keine systemeigene Möglichkeit, Einschränkungen durchzusetzen. Symbolische KI gibt es schon länger als neuronale Netze, sie ist jedoch nicht datengesteuert, während neuronale Netze Symbole erlernen und wiederholen können. Traditionell wurden die Fähigkeiten symbolischer KI nicht annähernd mit der Lernkapazität eines neuronalen Netzwerks nachgewiesen, aber alle Probleme, die ich erwähnt habe, sind Mängel des Deep Learning, das mit symbolischer KI behoben werden kann. Wenn man sich mit solchen Anwendungsfällen beschäftigt, die erhebliche Sicherheitsanforderungen haben, wie etwa in der Verteidigung, der Luft- und Raumfahrt und dem autonomen Fahren, besteht der Wunsch, viele Daten zu nutzen und dabei Sicherheitsbeschränkungen, Modularität und Erklärbarkeit zu berücksichtigen. Bei der Erforschung der neurosymbolischen KI werden viele Daten unter Berücksichtigung dieser anderen Parameter verwendet.

Nakuul Gopalan: Ich konzentriere mich auf den Bereich der Sprachvermittlung, Planung und des Lernens von menschlichen Benutzern für Roboteranwendungen. Ich versuche, Demonstrationen, die Menschen liefern, zu nutzen, um KI-Systemen symbolische Ideen wie Farben, Formen, Objekte und Verben beizubringen und dann die Sprache diesen symbolischen Konzepten zuzuordnen. In diesem Zusammenhang entwickle ich auch neurosymbolische Ansätze zur Vermittlung von KI-Systemen. Darüber hinaus arbeite ich im Bereich des Roboterlernens, bei dem es um die Implementierung von Lernrichtlinien geht, um Robotern dabei zu helfen, herauszufinden, wie sie bestimmte Aufgaben lösen können. Die Aufgaben reichen vom Einsetzen und Befestigen von Schrauben in Flugzeugflügeln bis hin zum Verständnis, wie man ein Objekt wie eine Mikrowelle modelliert, damit ein Roboter Lebensmittel erhitzen kann. Die Entwicklung von Werkzeugen in diesen großen Problembereichen des maschinellen Lernens und der künstlichen Intelligenz kann es Robotern ermöglichen, Probleme mit menschlichen Benutzern zu lösen.

Erzählen Sie mir etwas über Ihre Forschungslabore. An welcher Forschung arbeiten Sie derzeit?

PS: Das Hauptprojekt, an dem ich in meinem Labor gearbeitet habe, Lab V2, ist ein Softwarepaket, das wir PyReason nennen. Eines der praktischen Ergebnisse der Revolution der neuronalen Netze waren wirklich großartige Software wie PyTorch und TensorFlow, die einen Großteil der Arbeit bei der Erstellung neuronaler Netze rationalisieren. Google und Meta haben erhebliche Anstrengungen in diese Software investiert und sie für jedermann kostenlos zur Verfügung gestellt. Wir haben in der neurosymbolischen Literatur festgestellt, dass jeder das Rad in gewisser Weise neu erfindet, indem er eine neue Teilmenge der Logik für seine jeweiligen Zwecke schafft. Zu einem Großteil dieser Arbeit ist bereits umfangreiche Literatur verfasst worden. Bei der Entwicklung von PyReason wollten meine Mitarbeiter und ich die bestmögliche Logikplattform für die Arbeit mit maschinellen Lernsystemen schaffen. Wir haben ungefähr drei oder vier aktive Zuschüsse damit und die Leute haben es heruntergeladen, es war also unsere Hauptarbeit. Wir wollten eine sehr leistungsstarke Software entwickeln, um diese Forschung zu ermöglichen, damit Sie nicht ständig alte Logikteile neu implementieren müssen. Auf diese Weise ist alles vorhanden, es ist ausgereift und relativ fehlerfrei.

VON: Mein Labor, das Logos Robotics Lab, konzentriert sich darauf, Robotern einen menschlichen Ansatz zum Lernen und Lösen von Aufgaben beizubringen. Wir arbeiten auch an Darstellungen zur Aufgabenlösung, um zu verstehen, wie Roboter Objekte modellieren können, damit sie die Aufgaben lösen können, die Roboter lösen müssen. Zum Beispiel lernen Sie, wie man eine Mikrowelle bedient und wie man die Tür öffnet und einen Gegenstand hineinlegt. Wir verwenden Techniken des maschinellen Lernens, um das Verhalten von Robotern zu entdecken, und konzentrieren uns darauf, Robotern Aufgaben von menschlichen Benutzern beizubringen, um effiziente Methoden des maschinellen Lernens auszuprobieren. Unser Team lernt Objektdarstellungen wie die Modellierung von Mikrowellen, Toastern und Zangen, um zu verstehen, wie Roboter sie nutzen können. Ein Konzept, an dem wir arbeiten, ist die taktile Sensorik, die dabei hilft, Objekte zu erkennen und sie zur Lösung von Aufgaben durch Tasten zu nutzen. Bei all dem konzentrieren wir uns auf die Integration dieser Ansätze in Anwendungsfälle menschlicher Kollegen, damit wir den Nutzen dieser Lernsysteme in Anwesenheit einer Person, die neben dem Roboter arbeitet, demonstrieren können. Unsere Arbeit berührt praktische Probleme in der Fertigung und gesellschaftlich relevante Probleme, wie beispielsweise die Einführung von Robotern in Bereichen wie betreutes Wohnen und Pflege.

Was hat Sie ursprünglich zum Ingenieurwesen geführt und dazu bewogen, in diesem Bereich zu arbeiten?

PS: Ich hatte eine interessante Reise, um zu diesem Punkt zu gelangen. Direkt nach der High School besuchte ich die Militärakademie der Vereinigten Staaten in West Point, machte meinen Abschluss, wurde Militäroffizier und war in der 1. Panzerdivision der US-Armee. Ich hatte zwei Kampfeinsätze im Irak, und nach meinem zweiten Kampfeinsatz schickte mich meine Einheit zu einem dreimonatigen vorübergehenden Einsatz als Berater zur DARPA, weil ich über Kampferfahrung und einen technischen Abschluss – einen Bachelor-Abschluss in Informatik – verfügte. Bei DARPA erfuhr ich, wie einige der besten Wissenschaftler unseres Landes KI zur Lösung relevanter Verteidigungsprobleme einsetzten, und entwickelte ein großes Interesse sowohl an Intelligenz als auch an Autonomie. Als ausgebildeter militärischer Geheimdienst habe ich in Infanterie- und Panzereinheiten gearbeitet, um zu verstehen, wie Geheimdienstressourcen den Kampf unterstützten, und ich sah, dass die Arbeit bei DARPA Lichtjahre über das hinausging, was ich manuell verrichtete. Danach bewarb ich mich für ein spezielles Programm, um wieder ein Graduiertenstudium zu absolvieren, und erlangte meinen Doktortitel mit dem Schwerpunkt KI. Im Rahmen dieses Programms habe ich auch einige Jahre lang in West Point unterrichtet. Nach Abschluss meines Militärdienstes trat ich 2014 der Fakultät der ASU bei.

VON: Schon seit meinem Grundstudium interessiere ich mich für Lernsysteme im Zusammenhang mit Steuerungs- und Roboteranwendungen. Ich war beeindruckt von der Fähigkeit dieser Systeme, sich an die Bedürfnisse eines menschlichen Benutzers anzupassen. Was mich zum Ingenieurwesen hingezogen hat: Ich war schon immer von Mathematik fasziniert und habe in der High School sogar an einigen Mathematikwettbewerben teilgenommen. Eine Karriere im Ingenieurwesen war für mich eine Möglichkeit, dieses Interesse an Mathematik für praktische Anwendungen zu verfolgen. Ein häufiger Grund für die Arbeit in der Informatikforschung ist die Ähnlichkeit mit dem Mathematikbereich. Der Informatikbereich kann offene theoretische Probleme lösen und gleichzeitig praktische Anwendungen dieser theoretischen Forschung hervorbringen. Unsere Arbeit an der School of Computing and Augmented Intelligence verkörpert diese Ideale.

In den Medien herrscht so viel Hysterie und Lärm über KI. Sind wir als professionelle Forscher auf diesem Gebiet in der Nähe von wirklich nützlichen Anwendungen, die in verschiedenen Branchen lebensverändernd sein werden?

PS: Ja, ich denke schon. Wir haben bereits gesehen, was Faltungs-Neuronale Netze für die Bilderkennung leisten und wie sie in alles integriert wurden, von Telefonen bis hin zu Überwachungskameras und mehr. Wir werden ein sehr ähnliches Phänomen bei großen Sprachmodellen erleben. Die Modelle haben Probleme, und das Hauptproblem ist ein Konzept namens Halluzinationen, was bedeutet, dass die Modelle falsche Antworten oder Informationen geben. Außerdem können wir bei großen Sprachmodellen keine starken Sicherheitsgarantien geben, wenn Sie nicht erklären können, woher die Ergebnisse stammen, was bei jedem anderen neuronalen Modell das gleiche Problem darstellt. Unternehmen wie Google und OpenAI führen viele Tests durch, um diese potenziellen Probleme abzumildern, aber es gibt keine Möglichkeit, jeden möglichen Fall zu testen. Vor diesem Hintergrund erwarte ich, dass Dinge wie das Kontextfenster oder die Datenmenge, die Sie in eine Eingabeaufforderung eingeben können, im nächsten Jahr mit großen Sprachmodellen erweitert werden. Dies wird dazu beitragen, sowohl das Training als auch die Verwendung dieser Modelle zu verbessern. Im vergangenen Jahr wurden viele Techniken eingeführt, die die Genauigkeit in alltäglichen Anwendungsfällen erheblich verbessern werden, und ich denke, die Öffentlichkeit wird eine sehr niedrige Fehlerquote feststellen. Große Sprachmodelle sind bei der Generierung von Computercode von entscheidender Bedeutung, und das dürfte das bahnbrechendste und wirkungsvollste Ergebnis sein. Wenn wir Code schneller schreiben können, können wir von Natur aus schneller Innovationen hervorbringen. Große Sprachmodelle werden Forschern dabei helfen, weiterhin als Innovationsmotoren zu fungieren, insbesondere hier in den USA, wo diese Tools leicht verfügbar sind.

„Große Sprachmodelle sind bei der Generierung von Computercode von entscheidender Bedeutung, und das ist wahrscheinlich das bahnbrechendste und wirkungsvollste Ergebnis. Wenn wir Code schneller schreiben können, können wir von Natur aus schneller Innovationen hervorbringen.“

VON: Die Fortschritte beim maschinellen Lernen waren kometenhaft. Wir haben in den letzten Jahren den Aufstieg generativer Modelle für Sprache, Bilder, Videos und Musik erlebt. Diese Modelle haben bereits wirtschaftliche Konsequenzen, die wir in Branchen wie Journalismus, Schreiben, Softwareentwicklung, Grafikdesign, Recht und Finanzen beobachten. Möglicherweise werden wir eines Tages weniger Arbeitsplätze dieser Art sehen, da unsere Effizienz bei der Verfolgung dieses Fortschritts zunimmt, aber es gibt immer noch Fragen über die Genauigkeit und Moral des Einsatzes dieser Technologie und ihre dauerhaften sozialen und wirtschaftlichen Auswirkungen. In diesen Systemen gibt es ein gewisses Verständnis der physischen Welt, aber sie sind bei der Zusammenarbeit mit menschlichen Benutzern noch weit davon entfernt, effizient zu sein. Ich denke, dass diese Technologie die Art und Weise, wie wir in der Gesellschaft funktionieren, verändern wird, so wie die Einführung von Computern die Art der Berufe verändert hat, die die Menschen anstreben, aber die Forscher konzentrieren sich immer noch auf die Entwicklung des Ziels der künstlichen allgemeinen Intelligenz, also einer KI, die die physische Welt versteht und unabhängig funktioniert drin. Von einem solchen System sind wir noch weit entfernt, obwohl wir im Laufe der Zeit beeindruckende Werkzeuge entwickelt haben.

Glauben Sie, dass die Anwendungen von KI in der nationalen Sicherheit jemals einen Punkt erreichen werden, an dem die Öffentlichkeit diese Technologie im Einsatz sieht, wie zum Beispiel die autonomen Fahrzeuge, die auf Straßen in und um Phoenix getestet werden, oder glauben Sie, dass sie hinter den Kulissen bleiben wird?

PS: Als ich mein Startup-Unternehmen leitete, habe ich gelernt, dass es wichtig ist, dass KI in eine Lösung eingebettet ist, die jeder im Alltag versteht. Selbst bei autonomen Fahrzeugen besteht der einzige Unterschied darin, dass kein Fahrer auf dem Fahrersitz sitzt. Ziel ist es, diese Fahrzeuge so zu gestalten, dass sie sich wie normale Autos verhalten. Aber die große Ausnahme von all dem ist ChatGPT, das die Welt auf den Kopf gestellt hat. Selbst mit diesen Technologien habe ich ein wenig Zweifel daran, dass unsere aktuelle Schnittstelle in Zukunft die Art und Weise sein wird, wie wir mit diesen Arten von KI interagieren, und die Leute bei OpenAI stimmen zu.

Ich sehe in Zukunft weitere Entwicklungen, um Technologien wie ChatGPT besser in einen normalen Arbeitsablauf zu integrieren. Wir alle verfügen über Werkzeuge, mit denen wir unsere Arbeit erledigen, und damit sind immer geringe Kosten verbunden. Bei ChatGPT fallen die Kosten dafür an, in ein neues Fenster zu wechseln, sich beim Programm anzumelden und auf die Antwort zu warten. Wenn Sie damit eine E-Mail verfassen, die nur ein paar Sätze lang ist, scheint es sich möglicherweise nicht zu lohnen, und dann betrachten Sie es nicht als Werkzeug, um so oft Wirkung zu erzielen, wie Sie sollten. Wenn ChatGPT stärker in Prozesse integriert wäre, wäre die Nutzung meiner Meinung nach anders. Es ist eine so überzeugende Technologie und ich denke, das ist der Grund, warum sie sie in diesem sehr einfachen, externen Chat-Format veröffentlichen konnten.

VON: Wir nutzen eine erhebliche Menge an Technologie, die für die nationale Sicherheit für öffentliche Zwecke entwickelt wurde, in Anwendungen vom Internet bis hin zu GPS-Geräten. Da Technologie immer zugänglicher wird, wird sie weiterhin freigegeben und in öffentlichen Bereichen verwendet. Ich erwarte, dass das Gleiche auch für die meisten der von DARPA entwickelten Forschungsprodukte passieren wird.

Aktie: