close
close

KI-gestütztes DevOps with local LLMs support

KI-gestütztes DevOps with local LLMs support

Generative Sprachmodelle können nicht nur Texte erzeinen, klassifizieren und zusammenfassen, sondern wollen auch die Softwareentwicklung revolutionieren. Es vergeht kaum ein Month, in dem nicht ein neues Sprachmodell vorgestellt wird, das mit Abermilliarden von Quellcode-Token der verschiedenen Programmiersprachen und Dialecte wurde trainiert wurde. Waren frühe Codeassistenten gut darin, bestehenden Code zu vervollständigen oder Code zu einem eingegebenen Commentar zu erzeigen, können aktuelle LLMs beim gesamten Softwarelebenszyklus behilflich sein.

Der advantage dabei ist dass Entwickler im DevOps-Prozess nicht mehr die Entwicklungsumgebung verlassen müssen, um verschiedene Code-Assets zu erstellen. Nicht nur spezielle Produkte wie GitHub Copilot oder Codium versprechen hier mit Plug-ins für gängige integrated Entwicklungsumgebungen zu supporten.

  • Code assistants via GitHub Copilot or Codium as software as a service, must be considered Quellcode in the Schicken Cloud. Das stellt einige Firmen vor rechtliche Herausfahrungen.
  • Das Continue.dev-Plug-in for Visual Studio code and JetBrains products cann außer den großen Sprachmodellen aus der Cloud auch locale oder selbst berunite LLMs einbinden.
  • In addition to Codevervollständigung bindet Continue.dev separat configurierbare Chatmodelle und Embeddings ein, um den eigenen Code befragen zu können.
  • The Plug-in supports developers in all phases of DevOps-Prozesses, etwa beim Deployment von Diensten bei Cloud-Anbietern.




Ramon Wartala is Director of Data Science at Accenture Song in Hamburg. Als Berater entwirft und implementiert er mit seinem Team Datenarchitekturen for Machine-Learning-Lösungen seiner Kunden.

Mittlerweile existiert eine Reihe IDE-Plug-ins, die ganz versichtungen Voraussetungen für ihren Einsatz verlangen. The products of CodeGPT etwa setzen den Zugang zu OpenAIs GPT-4 oder dem AWS-Bedrock-Dienst voraus und sind nur in der Basisversion gratis. Other plugins with CodeAssist for JetBrains product communications with Cloud des Anbieters servers.

Das war die Leseprobe unsres heise-Plus-Artikels “KI-gestütztes DevOps mit lokalen LLMs oistingen”. Mit einem heise-Plus-Abo können sie den ganzen Artikel lesen und anhören.