Sony Onthult doorbraak: in-game AI-taalvertaler

Sony heeft een patentaanvraag ingediend om betere toegankelijkheidsfuncties voor games te bieden aan dove en stomme gamers. Het patent laat zien hoe je de ene gebarentaal in realtime naar een andere in-game taal kunt vertalen.

Sony-patent: ontwikkeling van een vertaler van Amerikaanse gebarentaal naar Japanse gebarentaal voor videogames

Het is de bedoeling om VR-apparatuur te gebruiken en via cloudgames te werken

Sony heeft een patentaanvraag ingediend om realtime vertaling in gebarentaal toe te voegen aan videogames. Het patent, getiteld "Sign Language Interpretation in Virtual Environments", demonstreert technologie die Amerikaanse Gebarentaal (ASL) kan vertalen naar Japanse Gebarentaal (JSL) die kan worden begrepen door Japanssprekenden.

Sony zegt dat het doel is om een ​​systeem te bouwen dat dove spelers helpt door gebarentaal in realtime te vertalen tijdens in-game gesprekken. De technologie die in het patent wordt beschreven, zou het mogelijk maken dat virtuele indicatoren of avatars die op het scherm worden weergegeven, in realtime in gebarentaal kunnen communiceren. Het systeem vertaalt gebaren in de ene taal eerst in tekst, zet de tekst vervolgens om in een andere opgegeven taal en vertaalt ten slotte de ontvangen gegevens in gebaren in een andere taal.

"Belichamingen van de huidige openbaarmaking hebben betrekking op methoden en systemen voor het vastleggen van de gebarentaal van één gebruiker (bijvoorbeeld een Japanner) en het vertalen van de gebarentaal naar een andere gebruiker (bijvoorbeeld een Engelstalige)", beschrijft Sony in de octrooi. “Omdat gebarentalen variëren per regionale herkomst, zijn gebarentalen geen universele talen. Dit vereist het op de juiste manier vastleggen van de gebarentaal van de ene gebruiker, het begrijpen van hun moedertaal en het genereren van een nieuwe gebarentaal voor een andere gebruiker als uitvoer in hun moedertaal. ."

Sony heeft een mogelijke systeemimplementatie uitgelegd, dat wil zeggen met behulp van VR-apparatuur of head-mounted displays (HMD). "In sommige uitvoeringsvormen maakt de HMD verbinding met een gebruikersapparaat, zoals een personal computer, gameconsole of ander computerapparaat, via een bekabelde of draadloze verbinding", legt Sony uit. "In sommige uitvoeringsvormen geeft het gebruikersapparaat afbeeldingen weer die worden weergegeven via de HMD, waardoor de gebruiker een meeslepende kijkervaring van de virtuele omgeving krijgt

Sony stelde verder voor dat het ene gebruikersapparaat via het netwerk naadloos kan communiceren met een ander gebruikersapparaat op de gameserver. "In sommige uitvoeringsvormen voert de gameserver een gedeelde sessie van de videogame uit, handhaaft de canonieke status van de videogame en zijn virtuele omgeving", zei Sony, "en synchroniseert het gebruikersapparaat daarmee met betrekking tot de status van de virtuele omgeving ."

Met deze opstelling kunnen gebruikers delen en communiceren in dezelfde virtuele omgeving (d.w.z. game) op een gedeeld netwerk of server. Sony voegde er ook aan toe dat in sommige implementaties van het systeem de spelserver deel zou kunnen uitmaken van een cloud-spelsysteem dat "video rendert en streamt" tussen elk gebruikersapparaat.