CoWoS en geavanceerde packaging: hoe chiparchitectuur datacenterontwerp bepaalt

Bijgewerkt op 11 december 2025

Update december 2025: TSMC demonstreert directe vloeistofkoeling op silicium via CoWoS met een thermische weerstand van 0,055°C/W bij 2,6kW+ TDP op 3.300mm² interposers. NVIDIA verzekert zich van meer dan 70% van TSMC's CoWoS-L capaciteit voor 2025. Blackwell GPU-volumes stijgen elk kwartaal met meer dan 20% richting 2M+ jaarlijkse eenheden. Geavanceerde packaging wordt de primaire beperking in de levering van AI-accelerators.

TSMC demonstreerde Direct-to-Silicon Liquid Cooling geïntegreerd op zijn CoWoS-platform tijdens de IEEE ECTC-conferentie van 2025, waarbij een junction-to-ambient thermische weerstand van 0,055 °C/W werd bereikt bij een koelmiddelstroom van 40 ml/s—bijna 15% beter dan vloeistofkoeling met deksel en thermische interfacematerialen.[^1] De demonstratie valideerde aanhoudende werking boven 2,6 kW TDP op een enorme interposer van 3.300 mm² die meerdere logische dies en HBM-stacks ondersteunt. Geavanceerde packaging-technologie is geëvolueerd van een zorg voor halfgeleiderfabricage naar een primaire drijfveer voor stroom- en koelingsarchitectuur in datacenters.

NVIDIA verzekerde zich van meer dan 70% van TSMC's CoWoS-L geavanceerde packaging-capaciteit voor 2025, waarbij de verzendingsvolumes van Blackwell-architectuur GPU's elk kwartaal met meer dan 20% stijgen richting jaarlijkse volumes van meer dan 2 miljoen eenheden.[^2] De capaciteitstoewijzing weerspiegelt hoe geavanceerde packaging de kritieke beperking is geworden in de levering van AI-accelerators. Datacenteroperators die infrastructuurinvesteringen plannen, moeten begrijpen hoe packaging-technologie de systemen beïnvloedt die zij implementeren, van stroomvoorzieningseisen via koelingsbehoeften tot fysieke vormfactoren.

Geavanceerde packaging begrijpen

Geavanceerde packaging integreert meerdere silicium dies in uniforme packages die functioneren als enkele chips, waardoor mogelijkheden ontstaan die onmogelijk zijn met monolithische ontwerpen.

CoWoS-technologie uitgelegd

CoWoS (Chip-on-Wafer-on-Substrate) combineert meerdere dies op een silicium interposer, die vervolgens wordt verbonden met een package-substraat.[^3] De silicium interposer bevat hoogdichtheids metalen interconnects en through-silicon vias (TSV's), die ultrahoge bandbreedte en lage latentie datacommunicatie tussen dies bieden. Het resultaat levert verbeterde energie-efficiëntie, thermische prestaties en een compacte voetafdruk die cruciaal zijn voor AI-, HPC- en cloud-workloads.

In tegenstelling tot traditionele single-chip packages maakt CoWoS heterogene integratie mogelijk waarbij SoC's, GPU's en HBM-geheugenstacks in één package worden gecombineerd.[^3] De integratie elimineert de bandbreedte- en latentiepenalty's van communicatie over package-grenzen. Geheugenbandbreedte die AI-prestaties beperkt, neemt dramatisch toe wanneer HBM-stacks millimeters van compute-dies zitten in plaats van over een PCB.

CoWoS-varianten

NVIDIA adopteerde CoWoS-L geavanceerde packaging, waarbij een redistributielaag (RDL) wordt geïntegreerd met een gedeeltelijke silicium interposer (LSI).[^2] CoWoS-L verbetert chipgrootte en oppervlak door transistordichtheid te verhogen, waardoor meer high-bandwidth memory kan worden gestapeld. Vergeleken met CoWoS-S en CoWoS-R technologieën biedt CoWoS-L superieure prestaties, hogere opbrengst en betere kostenefficiëntie.

CoWoS-S (silicium interposer) gebruikt een volledige silicium interposer die alle dies omspant. De aanpak biedt de fijnste interconnect-pitch maar beperkt de package-grootte tot de productielimieten van silicium interposers. Huidige CoWoS-S packages bereiken ongeveer 2,5 reticle-groottes.

CoWoS-R (RDL interposer) vervangt de silicium interposer door een organische redistributielaag, wat de kosten verlaagt ten koste van interconnectdichtheid. De technologie is geschikt voor toepassingen die grote packages vereisen waar volledige silicium interposers onbetaalbaar duur worden.

Concurrerende technologieën

Intel's EMIB (Embedded Multi-die Interconnect Bridge) verbindt chiplets met behulp van kleine silicium bruggen die direct in het package-substraat zijn ingebed, waardoor de noodzaak voor een grote silicium interposer wordt geëlimineerd.[^4] De aanpak vermindert zowel kosten als thermische complexiteit vergeleken met volledige interposer-oplossingen. EMIB is geschikt voor ontwerpen waar dies in paren communiceren in plaats van volledige mesh-connectiviteit te vereisen.

Intel's Foveros-technologie stapelt dies verticaal met behulp van through-silicon vias of directe koperverbinding.[^4] De 3D-stapeling biedt hoge interconnectdichtheid en heterogene node-integratie ten koste van strengere thermische en opbrengstoverwegingen. Thermisch beheer wordt bijzonder uitdagend wanneer warmtegenererende dies verticaal worden gestapeld.

TSMC's CoWoS-L blijft de primaire optie voor high-performance AI GPU's en HBM-intensieve accelerators ondanks concurrerende alternatieven.[^4] De productievolwassenheid van de technologie en bewezen prestaties bij AI-accelerator vermogensniveaus maken het de standaardkeuze voor toonaangevende ontwerpen.

Thermische implicaties

Geavanceerde packaging concentreert warmtegeneratie op manieren die traditionele koelingsbenaderingen uitdagen.

Vermogensdichtheidsuitdagingen

Een CoWoS-package van 3.300 mm² dat 2,6+ kW dissipeert, vertegenwoordigt vermogensdichtheden die geavanceerde koeling vereisen die de mogelijkheden van luchtkoeling te boven gaat.[^1] Het vermogen concentreert zich in compute-dies die een fractie van het totale package-oppervlak innemen, waardoor thermische hotspots ontstaan die de gemiddelde package-vermogensdichtheid onderschat.

HBM-stacks rondom compute-dies genereren extra warmte terwijl ze temperatuurbeheersing vereisen om geheugenbetrouwbaarheid te behouden. HBM-specificaties beperken bedrijfstemperaturen strenger dan logische dies tolereren. Koelingsontwerpen moeten zowel piektemperaturen van logische dies als gedistribueerde HBM thermische vereisten adresseren.

De progressie van 300W GPU's naar 700W+ huidige generatie en verwachte 1000W+ volgende generatie packages drijft fundamentele veranderingen in datacenter thermische architectuur. Luchtkoelingsbenaderingen die vorige generaties aankonden, kunnen niet opschalen naar huidige vermogensniveaus zonder onaanvaardbare akoestische of energiepenalty's.

Directe vloeistofkoelingsintegratie

TSMC's Direct-to-Silicon Liquid Cooling integreert microfluïdische kanalen direct in de siliciumstructuur, waarbij thermische interfacematerialen worden omzeild voor bijna-nul thermische impedantie.[^1] De Si-Integrated Micro Cooler fusie-bindt aan de achterzijde van de chip, waardoor intiem thermisch contact ontstaat dat TIM-gebaseerde benaderingen niet kunnen evenaren.

De technologie maakt aanhoudende werking mogelijk bij vermogensniveaus die packages met deksel en externe koude platen zouden overweldigen. Datacenters die volgende generatie AI-accelerators implementeren, hebben mogelijk dit niveau van thermische integratie nodig in plaats van bestaande koeling te retrofitteren naar hogere vermogensbelastingen.

Integratie op package-niveau verschuift de koelingsverantwoordelijkheid naar halfgeleiderfabrikanten en systeemverkopers in plaats van datacenteroperators. Organisaties die AI-infrastructuur specificeren, moeten begrijpen welke thermische oplossingen hun gekozen systemen gebruiken en welke faciliteitsvereisten die oplossingen opleggen.

Faciliteitskoelvereisten

Vloeistofkoeling op chipniveau vereist nog steeds warmteafvoer op faciliteitsniveau. De thermische belasting verplaatst zich van chip naar koelmiddelcircuit naar datacenter-koelingsinfrastructuur. Faciliteitsontwerpen moeten koelmiddeldistributie, warmtewisselaars en uiteindelijke warmteafvoer accommoderen, ongeacht hoe efficiënt chips aan koelmiddel koppelen.

Hoogdichtheidsracks mogelijk gemaakt door geavanceerde packaging kunnen 100+ kW in enkele rackposities concentreren. De concentratie creëert gelokaliseerde koelingsbehoeften die rij-gebaseerde of ruimte-gebaseerde benaderingen moeilijk kunnen adresseren. Rear-door warmtewisselaars, in-rij koeleenheden of direct-to-chip vloeistofkoelingsinfrastructuur wordt noodzakelijk.

Watervoorziening en behandelingsvereisten nemen toe met vloeistofkoelingsimplementatie. Koelmiddelkwaliteit beïnvloedt zowel thermische prestaties als levensduur van apparatuur. Datacenters moeten ofwel waterbehandeling voorzien of gesloten-lus systemen specificeren die afhankelijkheden van waterkwaliteit minimaliseren.

Stroomvoorzieningsoverwegingen

Geavanceerde packages vereisen stroomvoorzieningssystemen die overeenkomen met verhoogde stroomeisen en strengere spanningsregulatievereisten.

Plaatsing van spanningsregelaars

Hoogstroomlevering aan geavanceerde packages profiteert van spanningsregelaars die dicht bij het package zijn geplaatst. De korte afstand vermindert resistieve verliezen en verbetert transiëntrespons wanneer de stroomvraag snel verandert. Printplaatontwerpen plaatsen VRM's steeds vaker direct naast GPU-packages.

Stroomniveaus die honderden ampères bereiken bij sub-1V spanningen creëren uitdagende stroomdistributievereisten. PCB-laagaantallen en koperdiktes nemen toe om stroom te dragen zonder overmatig verlies of temperatuurstijging. Printplaatontwerpcomplexiteit en -kosten nemen toe naast package-vermogen.

Power delivery network (PDN) ontwerp beïnvloedt zowel steady-state efficiëntie als transiëntstabiliteit. AI-workloads vertonen snelle vermogensovergangen wanneer batchberekeningen starten en voltooien. Het PDN moet stroomstoten leveren zonder spanningsdalingen die fouten veroorzaken.

Faciliteitsstroominfrastructuur

Datacenter-stroominfrastructuur moet zowel totale vermogenstoenames als vermogensdichtheidstoenames accommoderen. Een rack dat 100 kW vereist, heeft elektrische infrastructuur nodig die weinig faciliteiten standaard voorzien. Busbar-capaciteit, PDU-ratings en vertakkingscircuitaantallen vereisen allemaal validatie tegen werkelijke implementatieplannen.

Stroomefficiëntie op faciliteitsniveau beïnvloedt de totale eigendomskosten aanzienlijk. Geavanceerde packages die betere prestaties per watt bereiken, verminderen koelingsbelastingen naast rekenkosten. Het voordeel wordt echter alleen gerealiseerd als faciliteitsinfrastructuur efficiënt werkt over het relevante vermogensbereik.

Back-up stroomsystemen staan voor nieuwe uitdagingen door hoogdichtheids AI-infrastructuur. UPS- en generatorcapaciteit moet overeenkomen met piekfaciliteitsbelasting terwijl voldoende runtime wordt geboden voor graceful shutdown. De kapitaalkosten van back-up stroom schalen met beschermde belasting, wat infrastructuurinvesteringen verhoogt.

Fysieke vormfactoren

Geavanceerde packaging beïnvloedt fysieke vormfactoren door de gehele systeemhiërarchie.

Package-afmetingen

Interposergroottebeperkingen limiteren hoeveel dies en HBM-stacks in een enkel package passen. Huidige CoWoS-packages overspannen meerdere reticle-groottes, waarbij limieten van productieapparatuur worden benaderd. Package-groottegroei maakt meer mogelijkheden per package mogelijk maar daagt socket- en printplaatontwerpen uit.

Package-hoogte neemt toe met HBM-stackaantal. Elke HBM-stack voegt verticale dimensie toe die socket- en heatsink-ontwerpen moeten accommoderen. Systeemontwerpen die package-aantal tegen hoogtebeperkingen afwegen, maken andere afwegingen dan vorige generaties.

Ball grid array (BGA) patronen voor geavanceerde packages omvatten duizenden verbindingen voor stroom, signaal en aarde. Socketontwerpen moeten betrouwbaar alle verbindingen contacteren terwijl package-verwijdering voor service mogelijk is. De mechanische engineering van sockets met hoge pinaantallen beïnvloedt systeemonderhoudbaarheid.

Printplaat- en systeemontwerp

Moederbordontwerpen voor geavanceerde packages wijden aanzienlijk oppervlak aan stroomvoorziening, geheugenkanalen en hogesnelheidsinterconnects. De printplaatruimte vereist per package kan beperken hoeveel packages op een enkele printplaat passen. Systeemontwerpen kiezen tussen minder grote packages of meer kleinere packages op basis van workloadvereisten.

Servervormfactoren evolueren om aan geavanceerde packagevereisten te voldoen. Hoogtebeperkingen in standaard 1U en 2U vormfactoren conflicteren met koelingsoplossingen voor hoogvermogenpackages. Speciaal gebouwde AI-serverontwerpen geven prioriteit aan thermische prestaties boven rackdichtheid.

Rackvermogensdichtheid neemt toe naarmate packages capabeler worden binnen constante vormfactoren. Faciliteiten ontworpen voor 10-15 kW per rack vinden AI-infrastructuur die 50-100+ kW per rack vereist. De mismatch tussen geïnstalleerde infrastructuur en implementatievereisten creëert kostbare retrofit-situaties.

Supply chain-implicaties

Capaciteitsbeperkingen voor geavanceerde packaging beïnvloeden AI-infrastructuurbeschikbaarheid en planningshorizons.

Capaciteitstoewijzing

TSMC plant op korte termijn acht CoWoS-faciliteiten uit te breiden, waaronder faciliteiten in ChiaYi Science Park en overgenomen Innolux-locaties.[^5] Halfgeleiderapparatuurbedrijven bevestigen dat TSMC en niet-TSMC spelers waaronder ASE, Amkor en UMC

[Inhoud ingekort voor vertaling]