Startseite BI Code-Analyse macht Algorithmen transparent

Code-Analyse macht Algorithmen transparent

In intelligenten Anwendungen unterstützen Algorithmen Anwender bei Entscheidungen und treffen diese teilweise selbst. Wie die Berechnungen aussehen, bleibt oft im Dunkeln. Sysparency analysiert die Algorithmen und macht damit die Software transparent.

Quelle: Zapp2Photo | www.istockphoto.com

Künstliche Intelligenz hält nach und nach Einzug in Software. Algorithmen bestimmen Verwaltungs- und Produktionsprozesse und unterstützen Anwender beim Autofahren oder beim Shopping. Keine Handlung, kein Produkt und keine Entscheidung, die nicht IT-gestützt oder zumindest IT-beeinflusst ist. Längst schon sind Menschen und Betriebe mit Algorithmen verbunden. Vielen Anwendern macht dies Sorgen. Sie fragen sich, wer hier eigentlich wen steuert und wer alles von wem Informationen sammelt. Unklar ist zudem, welche IT-Systeme miteinander interagieren. Diesen Fragen gehen die Software-Transparenz-Experten von Sysparency auf den Grund.


Anzeige | Trovarit-Academy

KI-WebinarWebinarreihe „KI konkret“ – Praxisnahe Use Cases

In vielen Unternehmen herrscht immer noch große Unsicherheit bei der Frage, ob und wie KI nutzbringend für die eigenen Prozesse eingesetzt werden kann.

Die Webinarreihe „KI konkret“ stellt in mehreren Terminen Use Cases vor, bei denen reale Herausforderungen in unterschiedlichen Unternehmensbereichen durch den Einsatz von KI gelöst werden konnten.

Künstliche Intelligenz & ERP | 14.09.2022


Automatisierte Analyse dokumentiert Softwarefunktionen

„Das Vertrauen in IT und digitale Prozesse kann nur mit Transparenz gelingen“, erklärt Sysparency-Geschäftsführer Abdula Hamed. „Algorithmen dürfen keine Blackbox bleiben. Unternehmen und Manager müssen wissen, wie ihre betriebsinterne Software funktioniert und was mit den produzierten Daten eines Unternehmens geschieht.“ Die Sysparency GmbH hat sich zum Ziel gesetzt, Software transparent zu machen. Mit dem wissenschaftlich entwickelten Analyse-Algorithmus Sysparency können Unternehmen die Funktionsweise ihrer Software-Systeme automatisiert dokumentieren und Applikationen gesetzeskonform gestalten. Die Applikation wird seit 2010 mit internationalen Kunden und dem österreichischen Forschungspartner Software Competence Center Hagenberg weiterentwickelt.

„Anhand dieser Analysen lassen sich Redundanzen reduzieren, und das wiederum spart Energie, CO2 und Managementkosten und minimiert gleichzeitig Risiken“, erläutert der Software-Experte. Doppelte Prozesse, Datenlecks, IT-Sicherheit, Krisenprävention, das alles hänge davon ab, ob man Subjekt oder Objekt der eigenen Software-Anwendungen sei und diese transparent durchdrungen habe. „Die andere Seite seien Fragen des Daten- und Verbraucherschutzes und der Wunsch von immer mehr Kunden zu wissen, was mit ihren Daten und persönlichen Informationen auf Unternehmensseite geschieht und wie diese genutzt werden.

Sämtliche Rechenschritte werden transparent

In einer Welt, in der wir Software vertrauen müssen, ja sogar von dieser abhängig sind, darf deren Funktionsweise nicht geheim bleiben. „Wenn Software Entscheidungen getroffen werden, dann muss deutlich werden, auf welchen Annahmen und Berechnungen diese Entscheidungen basieren“, erläutert Hamed. Verbraucher kennen das etwa von der Schufa oder von Kreditentscheidungen. „Da wird schon heute vollautomatisiert entschieden.“ Und dieser Weg gehe weiter: „Wir entwickeln uns hin zum ‚selbstfahrenden Unternehmen‘ und zur ‚selbstfahrenden Organisation‘. Es dauert wohl nicht mehr lange, dann trifft Künstliche Intelligenz die meisten unternehmerischen Entscheidungen. Verlässlichkeit und Vertrauen bedingt dabei Transparenz. Die Berechnungen, die zum Ergebnis führen, müssen bekannt sein, Diskriminierung ausschließen und sowohl gesetzlich-regulatorischen als auch sozial-ethischen Normen standhalten“, macht Hamed deutlich. „Algorithmen dürfen keinesfalls sich selbst überlassen werden.“

Damit dies gelinge, sollten sich Unternehmen mit ihren eigenen IT-Prozessen auseinandersetzen. Je stärker ein Unternehmen cloudbasiert, dezentral und vernetzt arbeite und je mehr Software-Tools mit Schnittstellen zueinander im Einsatz seien, desto wichtiger sei es, dem Code und den Algorithmen auf den Grund zu gehen. Transparenz sei hier das Zukunftsthema. „Die besten Chancen am Markt werden diejenigen Akteure haben, die ihre Software überlegen aufstellen und Daten als Kapital begreifen“, zeigt sich der Sysparency-Geschäftsführer überzeugt. Jürgen Frisch