Microsoft AOC: 100× Efficiëntere AI met licht in plaats van elektronen

Microsoft presenteert een prototype van een analoge optische computer (AOC) dat licht gebruikt in plaats van zuiver elektronische schakelingen. Dit apparaat belooft een revolutie in AI-rekenkracht: tot wel honderd keer efficiënter dan de huidige digitale systemen — in specifieke taken, met name optimalisatieproblemen en AI-inference. 

Wat is de AOC precies?

• De AOC combineert optica (micro-LEDs, lenzen, lichtmodulatoren, fotodetectoren) met analoge elektronica om berekeningen uit te voeren zonder steeds van analoog naar digitaal (en terug) te converteren.
• Hij werkt met een zogenoemde fixed-point-search (een feedbacklus) die iteratief steeds dichter bij een stabiele oplossing komt.
• Voorlopig is het toestel een prototype, met schaalbeperkingen (aantal parameters/gewichten) — bijvoorbeeld 256 gewichten voor inference, 64 variabelen voor optimalisatieproblemen. 

Analog optical computer for AI inference and combinatorial optimization - Nature Artificial intelligence (AI) and combinatorial optimization drive applications across science and industry, but their increasing energy demands challenge the sustainability of digital computing.

Concrete toepassingen en experimenten

Microsoft onderzocht met de AOC enkele praktische problemen:

• Financiën: een optimalisatieprobleem rond het afhandelen van transacties tussen banken (delivery versus payment) werd in verkleinde vorm met goede nauwkeurigheid opgelost.
• Gezondheidszorg: reconstructie van MRI-beelden, met potentieel om scans drastisch sneller uit te voeren. In theorie zou een MRI-scan van 30 minuten teruggebracht kunnen worden tot zo’n 5 minuten. 
• Machine Learning taken: zoals beeldherkenning (MNIST, Fashion MNIST) en regressie-taken werden met het prototype getest. De resultaten kwamen in veel gevallen in de buurt van wat klassieke digitale modellen leveren.

Voordelen:

1. Energie-efficiëntie — Tot circa 100× minder energieverbruik in geschikte taken vergeleken met toonaangevende GPU’s.
2. Snelheid en parallelisme — Door de optische componenten kan matrix-vermenigvuldiging (veelvoudig tegelijk) gebeuren in één lichtbundel, met weinig overhead.
3. Vermijden van digitale conversies — Digitale naar analoge omvormingen verbruiken veel energie; de AOC ontwijkt die, wat bijdraagt aan efficiëntie.

Beperkingen:

• Het is geen universele computer; sommige taken (algoritmen die zeer specifiek digitaal zijn) zijn moeilijk of niet geschikt.
• Schaalbaarheid is nog een uitdaging: huidige prototypes hebben relatief weinig gewichten/variabelen. Om in de praktijk grootschalige AI-modellen of zeer gedetailleerde problemen op te lossen, zal dit moeten verbeteren.
• Noise (ruis) in analoge systemen blijft een punt van aandacht, hoewel de fixed-point-architectuur helpt om hier tolerantie voor te bieden.

Can Microsoft's analog optical computer be the answer to more energy-efficient AI and optimization tasks? The constant scaling of AI applications and other digital technologies across industries is beginning to tax the energy grid due to its intensive energy consumption. Digital computing's energy and latency demands will likely ...

Potentieel en toekomst

Microsoft ziet de AOC als onderdeel van een duurzame toekomst voor AI-hardware. Enkele verwachtingen voor komende jaren:

• Grotere modellen met miljoenen of miljarden gewichten.
• Verdere verfijning van de hardware: kleinere optische componenten, betere koppeling tussen optica en elektronica. 
• Meer real-world toepassingen in optimisatie, gezondheidszorg, financiën, logistiek etc., waarbij precies die problemen gebruikt kunnen worden waarin de AOC uitblinkt. 

De AOC van Microsoft is geen willekeurige experimentele gadget — het vertegenwoordigt een potentieel paradigmashift in hoe bepaalde AI-taken en optimalisatieproblemen worden aangepakt. Voor bepaalde toepassingen lijken aanzienlijke efficiëntiewinsten binnen handbereik. Maar om grootschalig impact te hebben, moeten zowel hardware als schaalbaarheid doorontwikkeld worden. In de tussentijd biedt dit onderzoek al concrete hoop voor meer duurzame en krachtige AI.