GT Sophy-Entwickler erklären, wie es einer KI sportliches Verhalten beibrachte

Als erste bedeutende öffentliche Veröffentlichung der Technologie von Sony KI, das im Jahr 2020 gegründet wurde, ist der kommende Gran Turismo Sophy Race Together-Modus für Gran Turismo 7 wird für viele Spieler der erste Kontakt mit komplexer KI-Technologie sein, die einen nachhaltigen Einfluss auf viele Spiele von Sony Interactive Entertainment haben könnte. Wenn also die KI für viele Spieler unhöflich, unfair und unschlagbar ist, könnte GT Sophy als ein weiteres Warnsignal dafür angesehen werden, dass die KI noch nicht für die Hauptsendezeit bereit ist. Aus diesem Grund ist es für seine Entwickler eine Priorität, sicherzustellen, dass GT Sophy über die richtige Sportetikette verfügt.

Im Rennsport muss man darauf achten, aggressiv zu fahren, denn man will gewinnen, gleichzeitig aber auch fair fahren.“ Sony AI COO Michael Spranger erzählt Digital Trends. „Man darf nicht mit anderen Autos zusammenstoßen, um sich einen Vorteil zu verschaffen, und muss sicherstellen, dass jeder fair konkurrieren kann. Das ist ein interessanter Bereich, weil diese Regeln ziemlich ungenau sind; Es gibt ein Regelwerk, aber es muss von den Richtern interpretiert werden. Dies richtig zu machen – aggressiv und konkurrenzfähig statt fair zu fahren – ist eine der großen Herausforderungen von GT Sophy.“

Empfohlene Videos

Sony AI, Sony Interactive Entertainment und Polyphony Digital haben bestätigt, dass Spieler in begrenzter Zeit an GT Sophy teilnehmen können Gran Turismo 7 Modus ab 21. Februar. Um an diesen Punkt zu gelangen, haben die Entwickler viel Arbeit geleistet und nicht nur die Fähigkeiten von GT Sophy durch Verstärkungslernen verfeinert, sondern auch seine Etikette hin zu einem nebulösen Satz von Höflichkeitsregeln. Vor seiner Hinzufügung zu Gran Turismo 7, Digital Trends sprach mit Sony AI COO Michael Spranger und GT Sophy Project Lead Peter Wurman, um mehr darüber zu erfahren ihren ethischen Ansatz gegenüber dem sportlichen Verhalten von GT Sophy und welche zukünftigen Einsatzmöglichkeiten sie für diese Technologie sehen Gaming.

Das folgende Interview wurde aus Gründen der Kürze und Klarheit bearbeitet.

Was machte Gran Turismo zunächst zur attraktivsten Option für die Entwicklung einer fortschrittlichen KI?

Ein Porträtfoto von Sony AI COO Michael Spranger, PhD.
Michael Spranger, PhD, COO von Sony AI

Michael Spranger: Das lag daran, dass es möglich war und weil Gran Turismo ein wirklich spannendes Spiel ist. Gran Turismo war von Anfang an Teil von PlayStation. Es ist ein ikonisches Spiel, das diesen besonderen Herausforderungsbereich in Bezug auf physischen Realismus, Strategie, Entscheidungsfindung und Sportetikette bietet. Außerdem hat es ein großes Publikum, das das Spiel tatsächlich verfolgt, und das bedeutet, dass jede Technologie, die wir im Spiel entwickeln, potenziell bedeutende Auswirkungen auf Millionen von Spielern haben kann. Ich liebe das Spiel auch. Diese Faktoren zusammen führten dazu, dass wir Gran Turismo als eines der ersten Ziele für Gaming-KI-Projekte wählten.

Wie kann diese KI durch Verstärkungslernen mehr Risiken eingehen oder beeindruckender fahren als Ihre Standard-Spiel-KI? Versucht es nur, die präziseste Ideallinie zu fahren?

Peter Wurman: Es gibt verschiedene Fähigkeitsniveaus. Die Grundlinie besteht darin, schneller auf der Strecke zu fahren, daher funktioniert Reinforcement Learning dadurch, dass der KI-Agent erkunden kann, welche Auswirkungen seine Aktionen auf die Welt haben, und dann versuchen kann, seine Belohnung zu maximieren. Indem es ihm positive Signale gibt, schneller auf der Strecke zu fahren, lernt es, sehr schnell auf der Strecke zu fahren. Es lernt, auf das Gaspedal zu treten und in Kurven einzubremsen, damit es nicht abstürzt, was sich hervorragend für das Training für ein Zeitfahrszenario eignet.

Um es tatsächlich zu einem zu machen konkurrenzfähiger Rennfahrer, mussten wir ihm andere Belohnungssignale geben, wenn er Autos überholte, die vor ihm waren, und nicht, um Autos dahinter daran zu hindern, ihn zu überholen. Wir haben ihm auch Strafen für Kollisionen oder Zusammenstöße mit anderen Autos auferlegt. Diese Kombination aus Belohnungen und Strafen erforderte einige Anstrengungen, um sie richtig hinzubekommen, aber sobald wir mit der richtigen Gegnerpopulation trainiert hatten, erwies sich daraus ein sehr effektiver Rennfahrer.

Ein Porträt von Peter Wurman, Projektleiter von GT Sophy und Direktor von Sony AI America.
Peter Wurman, PhD, Direktor von Sony AI America und Projektleiter für GT Sophy

Was waren die größten Erkenntnisse aus den ersten paar Race Together-Events, die Sie mit top durchgeführt haben? Gran Turismo Sport Spieler?

Peter Wurman: Wenn Sie das Projekt verfolgt haben, wissen Sie, dass es zwei Rennen gab. Beim ersten Mal haben wir gut abgeschnitten, aber die Mannschaftswertung haben wir nicht gewonnen. Einige der interessanten Dinge, die wir daraus gelernt haben, hatten damit zu tun, die Balance zwischen Durchsetzungsvermögen und gutem Sport zu finden. Wir fanden zwei Wochen zuvor heraus, dass der Agent, den wir trainiert hatten, zu aggressiv war und nicht an Rennen teilnehmen durfte, also mussten wir uns abmühen und die Dinge anpassen. Es kann nicht einen KI-Agenten geben, der wirklich gut darin ist, schnell zu fahren, und einen anderen, der über die taktischen Aspekte des Passspiels nachdenkt; Stattdessen mussten wir sie in einen kohärenten Agenten integrieren, der beides gleichzeitig tat. Das sind die Dinge, die wir danach gesehen haben Rennen im Juli 2021, daher fühlten wir uns viel zuversichtlicher, als wir hineingingen Rennen im Oktober 2021.

Michael Spranger: Es gab so etwas, bei dem uns gesagt wurde, es sei zu aggressiv, aber dann haben wir am ersten Ausstellungsrenntag tatsächlich das Rennen verloren, weil wir nicht aggressiv genug und schüchtern waren. Das Problem, wie man diese Dinge in Einklang bringt, wurde während der Entwicklung des Projekts deutlich deutlich.

Eine Wiederholung eines Gran Turismo Sophy Race Together-Spiels in Gran Turismo 7.

Welche Änderungen mussten an GT Sophy vorgenommen werden, als Sie beschlossen, es hinzuzufügen? Gran Turismo 7 und es nicht einfach in einer Testumgebung trainieren?

Peter Wurman: Das Größte ist, dass GT Sophy in allen Ausstellungen auf einem separaten Computer lief und über eine Netzwerkverbindung mit der PlayStation-Konsole kommunizierte. Hier ist GT Sophy in das Spiel eingebettet. Es war ein bisschen technische Arbeit, es mit den Ressourcen, die uns nach all dem Rendering und anderen Dingen zur Verfügung standen, auf einer PlayStation zum Laufen zu bringen.

Die andere Sache ist, dass Polyphony Digital wirklich wollte, dass der Agent ein extrem gutes Beispiel für Rennstil und Rennkönnen ist. Wir haben einige Änderungen vorgenommen, um GT Sophy zu ermutigen, innerhalb der Grenzen zu bleiben. Wenn Sie sich eine der Ausstellungen angesehen haben, werden Sie sehen, dass es wirklich gut war, die gesamte Strecke auszunutzen und manchmal zwei Reifen ins Gras zu legen. Das ist legal, aber nicht genau das, was man in einem echten Rennwagen tun könnte. Wir haben einige Änderungen vorgenommen, um GT Sophy mehr zwischen den Zeilen zu halten. Es ist immer noch sehr schnell, aber etwas sauberer.

Unser Hauptaugenmerk liegt darauf, die sportlichen Regeln im Automobilrennsport einzuhalten.

Was sind die wichtigsten Dinge, die das KI-Team von Sony aus der Hinzufügung von Gran Turismo Sophy Race Together lernen möchte? Gran Turismo 7?

Peter Wurman: Der wichtigste Grund ist, dass wir hoffen, dass die Leute Spaß daran haben, dagegen zu spielen, das Gefühl haben, dass sie auf allen Leistungsniveaus wirklich herausgefordert werden, und dass sie lernen, besser simulierte Rennfahrer zu werden.

Michael Spranger: Wir wollen auch sehen, wie Menschen mit der Technologie interagieren. Im Moment gibt es nur eine Handvoll Menschen, die mit der Technologie vertraut sind. Daher sind wir gespannt, wie die Menschen sie nutzen werden, um selbst zu lernen, neue Fähigkeiten zu erwerben und neue Erfahrungen zu machen. Ich denke, das ist in vielerlei Hinsicht der Kern des Projekts. Wir haben den technologischen Durchbruch geschafft, und ich denke, das ist wirklich wichtig, aber ich denke, wir erschließen eine völlig neue Stufe für die Menschen und in Gran Turismo. In vielerlei Hinsicht hat die eingebaute KI ein recht enges Leistungsband, und Sie können dieses übertreffen, sobald Sie auf jedem Schwierigkeitsgrad ein fortgeschrittener Fahrer sind.

Selbst mit den relativ wenigen Rennwagen-Kombinationen, die wir hier vorgestellt haben, von dem, was ich kann, bis hin zu dem, was einige der Topspieler können, kann jeder eine wirklich interessante Kombination finden. Wir hoffen, mehr davon zu sehen und zu sehen, wie die Leute daraus lernen. Für einige Spieler ist es auch sehr schwierig, gute Gegner zu finden, und zum ersten Mal ist es möglich, sie zu finden wiederholte Interaktionen mit einem würdigen Gegner, ohne dass Sie alle Ihre Freunde anrufen und alle kommen lassen müssen zusammen. Es wird etwas sein, bei dem die Leute große Fortschritte dabei machen können, das Spiel zu verbessern, weil sie bis zu einem gewissen Grad diese maßgeschneiderten Erfahrungen machen können.

Eine First-Person-Perspektive eines Gran Turismo Sophy Race Together-Rennens in Gran Turismo 7.

Können Sie aus ethischer Sicht den Prozess erklären, bei dem festgestellt wird, was für GT Sophy sportliches Verhalten darstellt, damit bestimmte Spieler nicht belästigt werden?

Peter Wurman: Also, es kann nicht mit dir redenEs gibt also viele schlechte Dinge, die GT Sophy nicht tun kann, weil das nicht Teil des Spiels ist. Wir konzentrieren uns hauptsächlich darauf, die Regeln des Sportsgeistes im Automobilrennsport einzuhalten. Nun, das ist ziemlich nebulös. Man kann eine legitime Passmöglichkeit und ähnliches nicht blockieren. In diesen Regeln gibt es eine Menge unscharfer Wörter, die schwer zu kodieren und zu programmieren waren. Deshalb mussten wir sie mit Belohnungssignalen und Strafen angleichen, wenn sie beispielsweise ein anderes Auto angefahren haben.

Dann mussten wir es Polyphony Digital und den Testfahrern übergeben und uns von ihnen Feedback zum Rennen geben lassen gegen andere KI-Agenten zeigt uns nicht wirklich, ob es bereit ist, gegen die Vielfalt des menschlichen Rennens anzutreten Stile. Das erforderte einige Anstrengungen und Iterationen, um das richtig hinzubekommen.

Michael Spranger: Ich denke, man kann mit Fug und Recht sagen, dass diese Veröffentlichung konkurrenzfähig ist. Es wird versucht, die Spieler zu überholen, aber es wird sie nicht überwältigen. Es ist konkurrenzfähig, aber höflich. Es übt definitiv Druck auf Sie aus; Sie werden es in den Rückspiegeln sehen, wenn Sie versuchen, Sie zu überholen. Gleichzeitig wird versucht, Ihnen etwas Platz zu geben, damit Sie konkurrenzfähig, aber fair fahren können.

Peter Wurman: Aber wenn man ein Chaos anrichtet, wird es einen Vorteil daraus ziehen.

Michael Spranger: Genau, sofort!

Das Rennoptionsmenü des Gran Turismo Sophy Race Together-Modus in Gran Turismo 7.

Wo sehen Sie die Entwicklung von GT Sophy und KI-Technologie in Sony-Spielen in den nächsten fünf Jahren?

Michael Spranger: Natürlich können wir nichts Konkretes bekannt geben, aber im Allgemeinen gibt es mehrere Ebenen. Es gibt immer noch Herausforderungen und Dinge, die wir in Gran Turismo tun können, um neue Erlebnisse freizuschalten, und ich glaube, wir sind damit noch nicht fertig. Es besteht große Begeisterung darüber, die Technologie weiter voranzutreiben. Aus der Sony-KI-Perspektive der Unternehmensforschung und -entwicklung sowie der strategischen Initiativen sind wir dann wirklich gespannt darauf, was diese Technologie für Spiele im Allgemeinen bringen kann.

Andere Spiele werden uns vor andere Herausforderungen stellen und die Fähigkeiten der Technologie erweitern. Es handelt sich um eine aufstrebende Technologie, die in der Vergangenheit einige Erfolge erzielt hat, aber ich denke, dass das, was wir hier tun, ganz anders ist Wir haben das Gefühl, dass wir wissenschaftliche Durchbrüche erzielen, aber dann setzen wir sie auch ein und sorgen dafür, dass die Menschen die KI in die Hände bekommen Technologie. Das wird die Technologie vorantreiben und noch bessere Erlebnisse ermöglichen.

Interaktion ist das Herzstück von PlayStation, es ist kein Fehler, dass es Sony Interactive Entertainment heißt. Es geht wirklich darum, wie Sie mit den Dingen interagieren, die Sie im Spiel finden, und ich habe das Gefühl, dass dies der Fall ist Die Technologie hat das Potenzial, die nächste Generation von Spielen wirklich freizusetzen, und wir sind wirklich begeistert Das.

Empfehlungen der Redaktion

  • CES 2023: Gran Turismo 7 erscheint als Launch-Spiel für PS VR2
  • Gran Turismo 7 ändert die Kreditauszahlungen aufgrund einer Gegenreaktion
  • Gran Turismo 7 verfügt über ein Museum für Liebhaber der Automobilgeschichte