AiSEC Blog #2

Man hört immer wie hilfreich künstliche Intelligenz im Alltag, aber auch bei der Arbeit sein kann. Es werden auch ständig neue Anwendungsfelder für künstliche Intelligenz erschlossen und künstliche Intelligenz wird auch immer zugänglicher. Doch die Meisten verlieren den Überblick über das Angebot und die möglichen Funktionalitäten und wissen daher nicht, wie mächtig Technologien mit künstlicher Intelligenz sein können.

Unsere Lösung AiSEC hingegen kombiniert einige von den meist verbreitetsten Anwendungsfällen, wie einen ChatBot und eine Bild- sowie eine Videogenerierung, während die Daten aufgrund eines “On-Premise”-Aufbaus privat bleiben und nicht an Dritte weitergegeben werden. Sie bietet jedoch noch einiges mehr als die herkömmlichen Lösungen, wie beispielweise “Negative Prompting”, welches es ermöglicht, die Antworten auf die Relevanteren zu beschränken und “Stable Diffusion”, welche das genauere Erstellen und Anpassen von Bild- und Videogenerierung ermöglicht. 

Während herkömmliche Lösungen versuchen, das “eine” Modell zu finden oder zu erfinden, welches auf alle Fragen eine Antwort findet, bieten wir unseren Kunden, je nach Bedarf, unterschiedliche Modelle an, welche bei unterschiedlichen Aufgaben besonders gut performen. Das ist möglich, da die unterschiedlichen Modelle jeweils für einen bestimmten Zweck trainiert wurden und somit für diesen Zweck besonders gute Ergebnisse liefern. Außerdem ist die Verwendung mehrerer unterschiedlicher Modelle um einiges energieeffizienter, als die Verwendung von einem großen Modell, das für unterschiedliche Zwecke trainiert wurde, da nicht bei jeder simplen Frage ein ganzes Datacenter geladen werden muss, um diese zu beantworten.

AiSEC bietet außerdem eine API, mittels derer sie in viele verschiedene Drittanbieter-Tools integriert werden kann. Außerdem können “Workspaces” eingerichtet werden und mittels RAG, retrieval-augmented generation, die “Wissensgrundlage” der künstlichen Intelligenz erweitert werden. Doch was bedeutet das? Das bedeutet, dass man für unterschiedliche Anwendungsfälle einen “Workspace” generieren kann, der auf eine spezielle Art auf Anfragen reagiert.

Ein Beispiel wäre ein Chatbot für Programmierer. Man könnte einen “Workspace” einrichten, der auf Fragen immer mit Code-Beispielen in einer bestimmten Programmiersprache antwortet und diese dann Schritt-für-Schritt erklärt, damit die Antworten nachvollziehbar sind und man sich besser entscheiden kann, welche Code-Snippets hilfreich sein könnten und übernommen werden könnten. Man könnte den Workspace auch so einrichten, dass er zur Code-Optimierung verwendet werden kann. Dies wäre möglich, indem man den Workspace so konfiguriert, dass man ihm Best Practices mitgibt und der Workspace zur Verfügung gestellten Code dann anhand von diesen Auflagen optimiert. Ein weiteres Beispiel im Arbeitsumfeld wäre ein “Workspace”, der für Schulungen genutzt werden kann. Man könnte dem “Workspace” eine neue “Wissensgrundlage” mit den Antworten zu einem Quiz hinzufügen und die künstliche Intelligenz dann so instruieren, dass sie den Usern die Fragen der Reihe nach stellt, die Antworten entgegen nimmt, mit den zur Verfügung gestellten Antworten sinngemäß vergleicht und am Ende ein Endergebnis berechnet und die erreichten Punkte anzeigt. Dafür müsste man dem “Workspace” dann natürlich auch das Benotungsschema mitteilen und den “Workspace” passend konfigurieren. Der “Workspace” müsste dann selbstverständlich auch so konfiguriert werden, dass der User keine direkten Antworten bekommt und somit die Fragen selbst beantworten muss.

Was bedeutet jedoch “Erweitern der Wissensgrundlage”? Jedes Modell muss mit einer Unmenge an Daten trainiert werden, damit es auf Anfragen eine Antwort generieren kann. Wurde es jedoch nicht mit Daten trainiert, die notwendig wären, um eine Anfrage bearbeiten zu können, ist dieses Modell wenig hilfreich oder halluziniert oft sogar, was bedeutet, dass es anfängt Antworten zu erfinden. AiSEC kann nicht nur so konfiguriert werden, dass es nicht halluziniert, sondern zugibt, wenn es die Antwort nicht weiß. Nein, es kann auch mit weiteren Daten angereichert werden und zwar auf eine Art und Weise, die es nicht nötig macht, das Modell neu zu trainieren, was sehr zeit- und kostenintensiv sein kann. Stattdessen kann man Daten als eine Art “Lexikon” zu einem Modell hinzufügen. Das ermöglicht es auch, dass firmeninterne Daten verwendet werden und eröffnet somit ungeahnte Möglichkeiten, diesen Wissenschatz zu nutzen.

Wie man also sieht, bietet AiSEC schon sehr viele Vorteile. Wir als Sphinx geben uns damit aber noch nicht zufrieden. Unsere Vision und Mission für AiSEC ist es die Anwendungsmöglichkeiten kontinuierlich zu erweitern und unserer Fantasie da keine Grenzen zu setzen. Durch beispielweise die Kopplung eines Data Warehouses mit AiSEC können alle Potenziale, die die darin befindlichen Daten bieten, ausgeschöpft werden. AiSEC könnte jemanden beispielweise informieren, wenn ein Produkt bei irgendeinem Anbieter gerade im Angebot ist, welches laut Lagerstand bald zur Neige geht oder aufgrund der Bestellungen ermitteln, bei welchem Anbieter welche Produkte am günstigsten erworben werden können. Kundendaten könnten insofern analysiert werden, dass aufgrund der Kundengruppe, der Bestellungen und dem Corporate Design Flyer mit Angeboten erstellt werden, die die jeweiligen Kundengruppen ansprechen, für sie relevante Produkte darstellen und das unter Berücksichtigung des Corporate Designs. Weiters könnte man das noch mit einer möglichst hohen Gewinnspanne koppeln, indem beispielsweise vorzugsweise Produkte vermarket werden, für welche es gerade Zulieferrabatte gibt. Das sind nur einige Ideen, die wir mit AiSEC umsetzen möchten.

“Seien Sie dabei, wenn wir mit AiSEC die Möglichkeiten einer künstlichen Intelligenz voll ausschöpfen und revolutionieren.” Nähere Infos zu unserer Lösung AiSEC finden Sie unter: https://wiki.sphinx.at/de/AiSEC/aisec 

Es folgt in den nächsten Monaten ein weiterer Blog-Eintrag, wo die Technik hinter AiSEC genauer beschrieben wird, mit Fokus darauf, was schon technisch möglich ist, was wir bereits anbieten und wo wir im globalen Umfeld stehen.