In einem Meer weißer Daten versucht dieser Gründer, die KI weniger voreingenommen zu machen. Nennen Sie es einfach nicht „BlackGPT“.

• John Pasmore gründete Latimer, ein Startup, das schwarze Daten in KI-Modellausgaben einbindet.
• Er baut Partnerschaften mit HBCUs und schwarzen Medienproduzenten auf.
• Esther Dyson war die erste externe Investorin in Latimer.

An einem kalten, regnerischen Nachmittag traf ich kürzlich in der Innenstadt von Brooklyn John Pasmore, den CEO des KI-Startups Latimer.

Er ist ein schwarzer Gründer, der versucht, etwas zu erreichen, das heutzutage fast unmöglich erscheint: KI weniger voreingenommen zu machen. Nennen Sie es einfach nicht „BlackGPT“. Er ist kein Fan des Spitznamens, der sich irgendwie mit seinem Projekt verbunden hat.

Nachdem die Technologiebranche jahrelang über KI-Ethik gepredigt hat, liefert sie sich einen Wettlauf um die Entwicklung der leistungsstärksten KI-Modelle. Die Sicherstellung, dass diese Produkte die Vielfalt verschiedener Kulturen widerspiegeln, ist gegenüber kräftezehrenden Trainingsläufen, Benchmark-Besessenheit und endlosen Präsentationen über AGI und die kommende Produktivitätsrevolution in den Hintergrund getreten.

Auch wenn das alles überwältigend erscheint, zeigt Pasmore es nicht. Für unser Interview unterhielt er sich frei, während er auf der Couch in einer Bar in einem Coworking Space in Brooklyn saß und Maker’s Mark pur nippte.

Tatsächlich zogen die eklatanten Mängel der KI-Modelle und der relative Mangel an anderen Gründern, die sich mit diesen Problemen beschäftigten, Pasmore an.

KI weist gut dokumentierte Schwachstellen auf, wenn es um die schwarze Kultur geht. Die Ergebnisse sind verzerrt, da die Modelle auf Daten trainiert werden, die überwiegend weiß, männlich und westlich sind. Pasmore erkannte, dass er möglicherweise eine bessere Alternative finden könnte, und gründete im Mai 2023 Latimer, um es zu versuchen.

„Ich hätte einfach nicht gedacht, dass es funktionieren würde, wenn Leute auf Twitter eines der riesigen Technologieunternehmen darum bitten, die Geschichte der Schwarzen in Ordnung zu bringen“, sagte mir Pasmore. „Ich hätte nicht gedacht, dass sie darauf reagieren würden und dass wir das selbst tun könnten.“

Durch zwei Welten navigieren

Pasmore ist für diesen Moment gut aufgestellt, da er über einen Hintergrund verfügt, der ihm einzigartige Perspektiven auf die Versprechen und Schwächen der KI eröffnet.

Er wuchs in einem mehrheitlich weißen Mittelschichtviertel auf Long Island auf. Sein Vater kam aus Jamaika in die USA und besaß eine Tankstelle. Seine Mutter aus Trinidad arbeitete als Krankenschwester für PanAm Airlines, als diese den Mitarbeitern der Fluggesellschaft hausinterne medizinische Versorgung anbot.

„Aufgrund meines Hintergrunds und meiner Kindheit kann ich relativ problemlos in beiden Welten existieren und mich darin zurechtfinden“, sagte Pasmore.

In seinen Zwanzigern zog er nach Texas und arbeitete bei der Chemical Bank, die schließlich Teil von JPMorgan Chase wurde. Anstatt in der Unternehmensfinanzierung aufzusteigen, beschloss Pasmore, einen anderen Weg einzuschlagen.

„Ich bin ziemlich früh vom unternehmerischen Weg abgekommen“, erinnert er sich. „Mein erstes Unternehmen, das Intrigue Magazine, war eine Art Jugendkultur- und Stadtführerpublikation.“

Von der Intrige zur KI

Im Jahr 1995 erregte Intrigue die Aufmerksamkeit des Hip-Hop-Moguls Russell Simmons, der zusammen mit Pasmore die Medienmarke aufbaute. Nach Syndizierungsverträgen mit Warner Brothers und einer Partnerschaft mit Hearst Publishing wurde Intrigue, das später seinen Namen in OneWorld änderte, im Jahr 2004 geschlossen.

Von dort aus wechselte Pasmore als EVP zu Trace TV mit Sitz in Paris. Doch es dauerte nicht lange, bis der Gründerfieber überhandnahm und Pasmore 2007 Voyage.tv startete. Diese von Risikokapitalgebern finanzierte Videoreiseplattform wurde 2013 für 10 Millionen US-Dollar an Next 1 Interactive verkauft.

Anschließend übernahm er beratende Funktionen bei Unternehmen wie Strides AI, wo er an der Diversifizierung der Unternehmensvorstände arbeitete. Außerdem war er sieben Jahre lang geschäftsführender Gesellschafter der Messaging-Plattform Yestime.

Er hatte immer das Gefühl, dass er es verpasst hatte, ein technischer Gründer zu sein, und interessierte sich zunehmend für KI. Im Jahr 2019 ging er wieder zur Schule und erwarb einen BA in Informatik an der Columbia University mit einer weiteren Ausbildung in maschinellem Lernen an der Cornell.

Parallel dazu kehrte er auch zu seinen Finanzwurzeln zurück und wechselte 2021 als Partner zum Private-Equity-Unternehmen TRS Capital.

Esther unterstützt Latimer

Pasmore erkannte, dass die Diskussion über KI und die Notwendigkeit integrativer Tools einen neuen Wendepunkt erreicht hatte.

Zu diesem Zeitpunkt hatte Pasmore bereits enge Erfahrung mit einem gemeinsamen Problem unter schwarzen Tech-Unternehmern: Wie man die Aufmerksamkeit von Risikokapitalgebern auf sich zieht und Geld für seine Idee aufbringt.

„Die Erwartung an die VC-Front besteht darin, dass Sie zu Ihren Freunden und Ihrer Familie gehen und eine Menge Geld sammeln können“, sagte Pasmore gegenüber BI. „Das ist eine Hürde, wenn Ihre Freunde und Familie dazu nicht in der Lage sind.“

Also hat Pasmore sein Netzwerk angezapft. Er kannte die prominente Angel-Investorin Esther Dyson seit mehr als einem Jahrzehnt und stellte ihr seine Vision für Latimer vor.

Sie wurde schnell zur ersten Investorin von Latimer, weil sie das Potenzial des Startups erkannte, der beunruhigenden Tendenz der KI entgegenzuwirken, die Geschichte und Kultur der Schwarzen zu ignorieren.

„KI wird nicht alle diese Probleme lösen, aber sie wird das tun, was wir Menschen von ihr verlangen. Verwenden Sie Latimer und bitten Sie es, die verborgene Geschichte zu finden“, sagte Dyson gegenüber BI. „Eine KI-Halluzination ist eine Hypothese und die einzige Möglichkeit, sie zu beweisen oder zu widerlegen, besteht darin, die Fakten herauszufinden.“

Dyson, Tochter des berühmten Wissenschaftlers Freeman Dyson, hat erfolgreiche Start-ups wie Flickr und Square unterstützt und war gleichzeitig Vorsitzender der einflussreichen Electronic Frontier Foundation.

„Der Wert der KI liegt nicht in den Knoten, sondern in den Kanten und der Beziehung zwischen den Datenarten“, sagte sie. „Das große Geschäftsmodell wird die Qualitätssicherung für die Informationslieferkette sein.“

Ein anderer Ansatz für KI-Trainingsdaten

Die Legitimierung von Informationsquellen, die die Grundlage für Trainingsdaten für KI-Modelle bilden, wird immer wichtiger, und Pasmore hat viel darüber nachgedacht.

Anstatt dass Webcrawler Informationen aus dem Internet aufsaugen, was es schwierig macht, Entschädigung, Einwilligung, Kontrolle und Anerkennung zu gewähren, ist die Datenstrategie von Latimer anders.

Im Mittelpunkt stehen Partnerschaften mit traditionell schwarzen Hochschulen und Universitäten sowie Lizenzverträge mit schwarzen Medienunternehmen und anderen ähnlichen Inhaltsproduzenten.

Der leitende Content-Zar für die Latimer-Datenbank ist Molefi Kete Asante von der Temple University, der den ersten Doktortitel für Afroamerikanistik der Schule erstellt hat. Programm.

„Schwarze und braune Verlage möchten beide finanziell von der Produktion dieser Inhalte profitieren, möchten aber auch nicht, dass die Inhalte so isoliert sind, dass man genaue Informationen nur von einem Ort erhalten kann“, sagte Pasmore.

Latimer hat außerdem mit der Morgan State University zusammengearbeitet, um eine Methode zur Erkennung von Verzerrungen in KI-generierten Texten zu entwickeln. Diese Methode ist in eine Reihe von Geschäftsangeboten integriert, die Latimer bald einführen wird. Im Februar kündigte das Unternehmen die Einführung einer API an, die Vorurteile in Texten erkennen kann.

Wie Latimers Technologie funktioniert

Jetzt, knapp ein Jahr nach dem Start von Latimer, sind Pasmore und sein achtköpfiges Team damit beschäftigt, seine speziellen Datensätze auszubauen und diese in OpenAI-GPT-Modelle und Alternativen wie den Open-Source-Modellanbieter Mistral AI zu integrieren.

Latimer nutzt GPT-3.5 von OpenAI für seine Grundfunktionen. Bevor Latimer Fragen beantwortet, ruft es mithilfe eines Prozesses, der als Retrieval-Augmented Generation (RAG) bekannt ist, Informationen aus einem Datenschatz zur Kultur und Geschichte der Schwarzen ab.

Latimer gehört zu einer wachsenden Liste von Unternehmen, die mithilfe von RAG neue Tools auf Basis grundlegender KI-Modelle entwickeln, darunter das Suchmaschinen-Startup Perplexity AI.

Das Startup von Pasmore unterscheidet sich von der Konkurrenz durch die Bezeichnung „BlackGPT“.

Pasmore ist zwar eingängig, aber kein Fan des Spitznamens. Das liegt zum Teil daran, dass es zu nah an ChatBlackGPT ist, einem Produkt, das von Erin Reddick entwickelt wurde, um die Kultur und Geschichte der Schwarzen hervorzuheben.

Wenn KI-Modelle die Vielfalt tatsächlich genau widerspiegeln würden, wäre ein solcher Name natürlich nicht nötig. Pasmore möchte dies eines Tages Wirklichkeit werden lassen.

source site-19