Sie sind hier: Startseite » Markt » Tipps und Hinweise

Clever skalieren auf Basis bestehender Strukturen


Wenn "kleine" Zahlen durch die Decke gehen: Die unterschätzten Auswirkungen von KI
Multipliziert mit Milliarden täglicher Prompts, die Tausende von Rechenzentren weltweit verarbeiten, werden Konsum und Gesamtbelastung nicht mehr in Tropfen gemessen


Von Jeff Wittich, Chief Product Officer bei Ampere

Da Generative AI zunehmend Teil unseres Alltags wird, befinden wir uns in einer KI-Phase, die sich durch außerordentliche Fähigkeiten und enormen Konsum auszeichnet. Was anfangs auf einer theoretischen Ebene stattgefunden hat, ist inzwischen messbar – und zwar bis zur kleinsten Einheit. Aktuelle Untersuchungen von Mistral AI und Google deuten darauf hin, dass die Folgen einer einzigen Interaktion vernachlässigbar sind: Bruchteile eines Watts, einige Tropfen Wasser und ein Kohlenstoffausstoß, der etwa dem entspricht, was beim Streamen eines Videos unter einer Minute verbraucht wird.

Alleinstehend betrachtet wirken diese Zahlen trivial. Skaliert man sie, ändert sich jedoch alles. Multipliziert mit Milliarden täglicher Prompts, die Tausende von Rechenzentren weltweit verarbeiten, werden Konsum und Gesamtbelastung nicht mehr in Tropfen gemessen. Stattdessen kommen riesige Mengen an Wasser und Strom zustande. Branchenprognosen warnen vor einem weltweiten KI-Bedarf, der bis 2027 bis zu 6,6 Milliarden Kubikmeter Wasser verbrauchen könnte.

Und das ist die Krux beim Skalieren: Kleine Zahlen werden groß. Der Unterschied zwischen verkraftbaren und untragbaren Auswirkungen liegt nicht in den Nachkommastellen. Vielmehr geht es darum, wie wir mit der Skalierung selbst umgehen. Deshalb muss unsere Branche jetzt handeln.

Clever skalieren auf Basis bestehender Strukturen
Jedes in einem Rechenzentrum installierte Rack bietet die Chance, diese Entwicklung positiv zu beeinflussen. Mithilfe effizienter Prozessoren, Workload Tuning sowie einer smarteren Orchestrierung lässt sich deutlich mehr Leistung pro Rack erzielen, ohne dass der Wasser- und Energieverbrauch proportional ansteigen. Fest steht: Skalieren ist unvermeidbar. Allerdings lässt sich die Geschwindigkeit ihrer Auswirkungen verändern.

Wachstum fördern, ohne den Druck zu erhöhen
Auch in Zukunft wird es neue Rechenzentren geben, deren Dasein absolut unerlässlich ist. Wenn wir jedoch die bereits existierenden optimieren, können wir steuern, wie schnell wir neue Kapazitäten brauchen. Dadurch lässt sich sicherstellen, dass es sich bei neuen Bauprojekten um strategische Erweiterungen handelt, statt um spontane Notlösungen. Somit lässt sich das potenzielle Ausmaß deutlich verringern, wenn wir bestehende Strukturen optimal nutzen.

Verantwortungsvoll skalieren
Die Pro-Prompt-Zahlen sind entscheidend für die Sichtbarkeit. Doch echte Verantwortung zeigt sich darin, wie wir mit exponentiellem Wachstum umgehen. Durch Energieeffizienz auf Rack- und Systemebene – wie Prozessoren, Kühlung und Orchestrierung – lässt sich der KI-Footprint verkleinern, ohne dass Innovationen eingebüßt werden müssen. Auf lange Sicht können selbst kleinere Optimierungsmaßnahmen den Wasser- und Strombedarf spürbar senken.

Das große Ganze
Skalierung definiert den Einfluss, den KI auf die Umwelt hat. Für die Branche besteht die Herausforderung nicht darin, Nachkommastellen zu minimieren, sondern die Wachstumskurve zu bremsen.

Es steht außer Frage: KI wird skalieren. Wir haben die Wahl, ob die Folgen genauso schnell mitskalieren. Mithilfe einer intelligenten Infrastruktur muss es nicht dazu kommen. (Ampere: ra)

Newsletterlauf: 18.09.22

Ampere: Kontakt und Steckbrief

Der Informationsanbieter hat seinen Kontakt leider noch nicht freigeschaltet.


Meldungen: Tipps und Hinweise

  • Wie sich Teamarbeit im KI-Zeitalter verändert

    Liefertermine wackeln, Teams arbeiten unter Dauerlast, Know-how verschwindet in der Rente: In vielen Industrieunternehmen gehört der Ausnahmezustand zum Betriebsalltag. Gleichzeitig soll die Zusammenarbeit in Produktion, Qualitätskontrolle und Wartung immer schneller, präziser und vernetzter werden. Wie das KI-gestützt gelingen kann, zeigt der Softwarehersteller Augmentir an sechs konkreten Praxisbeispielen.

  • Vom Workaround zum Schatten-Account

    Um Aufgaben im Arbeitsalltag schneller und effektiver zu erfüllen, ist die Suche nach Abkürzungen Gang und Gebe. In Kombination mit dem technologischen Fortschritt erreicht die Effizienz menschlicher Arbeit so immer neue Höhen und das bringt Unternehmen unwissentlich in eine Zwickmühle: Die zwischen Sicherheit und Produktivität. Wenn ein Mitarbeiter einen Weg findet, seine Arbeit schneller oder besser zu erledigen, die Bearbeitung von Zugriffsanfragen durch die IT-Abteilung aber zu lange dauert oder zu kompliziert ist, dann finden Mitarbeiter oftmals "kreative" Lösungen, um trotzdem weiterarbeiten zu können. Diese "Workarounds" entstehen selten aus böser Absicht. Allerdings stellen sie gravierende Sicherheitslücken dar, denen sich viele Beschäftigte und Führungskräfte nicht bewusst sind.

  • KI in der Cloud sicher nutzen

    Keine Technologie hat die menschliche Arbeit so schnell und weitreichend verändert wie Künstliche Intelligenz. Dabei gibt es bei der Integration in Unternehmensprozesse derzeit keine Tür, die man KI-basierter Technologie nicht aufhält. Mit einer wachsenden Anzahl von KI-Agenten, LLMs und KI-basierter Software gibt es für jedes Problem einen Anwendungsfall. Die Cloud ist mit ihrer immensen Rechenleistung und Skalierbarkeit ein Motor dieser Veränderung und Grundlage für die KI-Bereitstellung.

  • Clever skalieren auf Basis bestehender Strukturen

    Da Generative AI zunehmend Teil unseres Alltags wird, befinden wir uns in einer KI-Phase, die sich durch außerordentliche Fähigkeiten und enormen Konsum auszeichnet. Was anfangs auf einer theoretischen Ebene stattgefunden hat, ist inzwischen messbar - und zwar bis zur kleinsten Einheit. Aktuelle Untersuchungen von Mistral AI und Google deuten darauf hin, dass die Folgen einer einzigen Interaktion vernachlässigbar sind: Bruchteile eines Watts, einige Tropfen Wasser und ein Kohlenstoffausstoß, der etwa dem entspricht, was beim Streamen eines Videos unter einer Minute verbraucht wird.

  • Von Cloud-First zu Cloud-Smart

    Die zunehmende Vernetzung von IT- und OT-Systemen bedeutet für die Fertigungsindustrie neue Sicherheitsrisiken. Ein moderner Cloud-Smart-Ansatz verbindet Innovation mit effektiven Sicherheitslösungen, um diesen Herausforderungen gerecht zu werden. Die industrielle Digitalisierung stellt die Fertigungsindustrie heute vor neue Herausforderungen - insbesondere in puncto Sicherheit.

  • Technik statt Vertrauen

    Die andauernden Turbulenzen in den USA seit Amtsantritt von Donald Trump, die konsequente Kürzung von Mitteln für Datenschutz und die Kontrolle staatlicher Überwachungsprogramme verdeutlichen: Wer als Behörde oder Institution höchste Datensicherheit garantieren muss, kann nicht auf US-amerikanische Unternehmen oder deren europäische Töchter setzen.

  • Risiko von SaaS-zu-SaaS-Integrationen

    Ein SaaS-Sicherheitsalbtraum für IT-Manager in aller Welt wurde kürzlich wahr: Hacker nutzten legitime OAuth-Tokens aus der Drift-Chatbot-Integration von Salesloft mit Salesforce, um unbemerkt Kundendaten von der beliebten CRM-Plattform zu exfiltrieren. Der ausgeklügelte Angriff deckt einen kritischen toten Winkel auf, von dem die meisten Sicherheits-Teams nicht einmal wissen, dass sie von ihm betroffen sind.

  • Kostenfallen erkennen und vermeiden

    Remote Work, Cloud Computing und mobile Endgeräte haben die Arbeitswelt grundlegend verändert. Mitarbeiter erwarten heute, von überall aus auf ihre Anwendungen und Daten zugreifen zu können. Virtuelle Desktop-Lösungen machen diese Flexibilität möglich, indem sie Desktop-Umgebungen und Anwendungen über das Netzwerk eines Unternehmens bereitstellen. Doch der Markt für solche Lösungen ist komplex und vielfältig. IT-Entscheider stehen vor der Herausforderung, aus dem Angebot die passende Lösung zu identifizieren, die sowohl technische Anforderungen als auch wirtschaftliche Ziele erfüllt.

  • Übergang in die neue Systemlandschaft

    Der Umstieg auf SAP S/4HANA ist bei vielen Unternehmen bereits in vollem Gange oder steht unmittelbar bevor. Wer in diesem Zusammenhang seine Archivierungsstrategie überdenkt, kann wertvolle Zeit, Kosten und Aufwand sparen. Die Archivierungsexperten von kgs haben zehn zentrale Aspekte zusammengestellt, die dabei helfen, den Übergang in die neue Systemlandschaft effizient und zukunftssicher zu gestalten.

  • Die Zukunft braucht offene KI-Infrastrukturen

    KI ist mehr als ein ominöses Hinterzimmer-Experiment. Die Technologie ist eine treibende Kraft, wenn es um Produkte, Entscheidungen und Nutzererfahrungen über jegliche Wirtschaftsbereiche hinaus geht. Mittlerweile stellen Unternehmen jedoch die Inferenz in den Mittelpunkt ihrer KI-Implementierungen. Hier können die Modelle ihren eigentlichen Mehrwert unter Beweis stellen - unter anderem in Form von Antworten auf drängende Fragen, Vorhersagen und Content-Generierung. Der Anstieg des Inferenz-Bedarfs bringt jedoch eine entscheidende Herausforderung mit sich. Bei Inferenzen handelt es sich nämlich nicht um einzelne Workloads.

Wir verwenden Cookies um unsere Website zu optimieren und Ihnen das bestmögliche Online-Erlebnis zu bieten. Mit dem Klick auf "Alle akzeptieren" erklären Sie sich damit einverstanden. Erweiterte Einstellungen