FedZero: KI-Modelle entwickeln durch energieeffizientes föderales Lernen
Die Firma FedZero hat es sich zur Aufgabe gemacht, energieeffiziente KI-Modelle zu entwickeln. In Kooperation mit den Forschern des BIFOLD-Instituts stellen sie das innovative verteilte Lernsystem FedZero vor, das ausschließlich mit erneuerbarer Energie betrieben werden kann. Dieses System bietet eine Lösung für den Einsatz sensibler Gesundheitsdaten in der Medizin, ohne dass die Daten zwischen den Partnern ausgetauscht werden müssen.
Federated Learning ermöglicht es verschiedenen Parteien, gemeinsam ein Vorhersage-Modell zu trainieren, ohne ihre Daten preiszugeben. Das ist besonders in Bereichen wie der Medizin wichtig, wo der Datenschutz eine große Rolle spielt. Die Modelle werden dezentral bei den einzelnen Partnern trainiert, ohne dass eine Übertragung der Daten zwischen den Institutionen stattfindet. Dadurch wird die Sicherheit der Daten gewährleistet.
Allerdings geht das federale Lernen auch mit einem hohen Energieverbrauch einher. Um diesem Problem entgegenzuwirken, hat FedZero eine Struktur entwickelt, die sicherstellt, dass die Trainingsprozesse fair verteilt und nur dann durchgeführt werden, wenn ausreichend erneuerbare Energie zur Verfügung steht. Der Energieverbrauch wird entsprechend der verfügbaren überschüssigen erneuerbaren Energie optimiert. Im Gegensatz zu den meisten zentralisierten Anwendungen des maschinellen Lernens, bei denen alle Trainingsdaten in einem einzigen Rechenzentrum gespeichert sind, können die KI-Modelle von FedZero in räumlich getrennten Rechenzentren verteilt werden.
Prof. Dr. Odej Kao, Lehrstuhlinhaber für Verteilte Systeme und Betriebssysteme an der TU Berlin und BIFOLD Fellow, erklärt: „Ein Beispiel hierfür sind Gesundheitseinrichtungen, die aus Datenschutzgründen keine sensiblen Patientendaten teilen können, aber dennoch gemeinsam Vorhersagemodelle für Diagnosen und Behandlungsempfehlungen entwickeln möchten.“
Die Forscher des Huawei Munich Research Center haben untersucht, ob maschinelles Lernen ohne CO2-Emissionen möglich ist. Dabei haben sie gezeigt, wie das Konzept des föderalen Lernens genutzt werden kann, um ausschließlich mit grüner Energie zu arbeiten und somit keine zusätzlichen CO2-Emissionen zu verursachen. Das neue System FedZero setzt dieses Konzept um, indem es die überschüssige erneuerbare Energie mit ungenutzten Rechenressourcen verbindet. Dadurch kann der CO2-Ausstoß des Trainings auf null reduziert werden.
Allerdings bringen Projekte, die sich auf die Nutzung von überschüssiger erneuerbarer Energie konzentrieren, neue Herausforderungen mit sich. Insbesondere das Problem der Fairness stellt sich beim Federated Learning. Partner mit begrenztem Zugang zu überschüssiger grüner Energie könnten im endgültigen Modell unterrepräsentiert sein, da ihnen auch weniger Trainingszeit zur Verfügung steht. Um diesem Problem entgegenzuwirken, passt FedZero das Trainings-Tempo dynamisch an die aktuellen Bedingungen an.
Die Ergebnisse dieser Forschung werden am 5. Juni 2024 auf der 15. ACM International Conference on Future and Sustainable Energy Systems (e-Energy 24) in Singapur vorgestellt. Weitere Veröffentlichungen zu diesem Thema sind geplant.
FedZero bietet eine vielversprechende Möglichkeit, KI-Modelle energieeffizient zu entwickeln und gleichzeitig die Sicherheit sensibler Daten zu gewährleisten. Durch den Einsatz von erneuerbarer Energie und das dezentrale Training der Modelle kann der CO2-Ausstoß des maschinellen Lernens erheblich reduziert werden. Die Entwicklung in diesem Bereich ist ein wichtiger Schritt in Richtung einer nachhaltigen und umweltfreundlichen Nutzung von KI-Technologien.
Schlagwörter: FedZero + Odej Kao + Lauritz Thamsen
Wie bewerten Sie den Schreibstil des Artikels?