Brückenschlag zwischen Medikamenten und Krankheiten: Große Sprachmodelle für die Übersetzung von Medikamentenindikationen

Einleitung

Der Weg von einer chemischen Verbindung zu einem lebensrettenden Medikament ist ein komplexes und kostspieliges Unterfangen. Die Medikamentenentdeckung, der Prozess der Identifizierung chemischer Einheiten mit therapeutischem Potenzial, ist ein bedeutendes Forschungsgebiet. Ein entscheidender Aspekt dieses Prozesses ist das Verständnis der zugelassenen Indikationen eines Medikaments – die spezifischen Krankheiten, Zustände oder Symptome, für deren Behandlung, Vorbeugung, Linderung, Heilung oder Diagnose es bestimmt ist. Die Fähigkeit, Medikamentenmoleküle effizient mit ihren Indikationen zu verknüpfen oder umgekehrt, verspricht eine gezieltere Krankheitsbehandlung und eine erhebliche Reduzierung der Kosten für die Entwicklung neuer Medikamente, was das Feld potenziell verändern könnte.

In den letzten Jahren haben sich große Sprachmodelle (LLMs) wie GPT-3, GPT-4, LLaMA und Mixtral als leistungsstarke Werkzeuge in der künstlichen Intelligenz etabliert. Diese Modelle, die auf riesigen Textdatenmengen trainiert werden, beherrschen verschiedene Aufgaben der natürlichen Sprachverarbeitung, einschließlich Textgenerierung und Übersetzung. Ihre Fähigkeiten gehen über das allgemeine Sprachverständnis hinaus und zeigen vielversprechende Ergebnisse in verschiedenen wissenschaftlichen Domänen. Die Herausforderung besteht darin, diese textbasierten Modelle an wissenschaftliche Konzepte anzupassen, insbesondere wenn es um Molekülstrukturen geht, die typischerweise visuell dargestellt werden.

Moleküle und Medizin übersetzen

Um die Lücke zwischen Molekülstrukturen und textlichen Informationen zu schließen, nutzen Forscher Methoden wie das Simplified Molecular-Input Line-Entry System (SMILES). SMILES-Strings bieten eine textuelle Darstellung von Molekülen und erfassen deren Atome, Bindungen und strukturellen Merkmale. Dieses textuelle Format ermöglicht es LLMs, Moleküle zu verarbeiten und zu verstehen. Diese Arbeit untersucht die Machbarkeit des Einsatzes von LLMs für die Übersetzung zwischen Medikamentenmolekülen, dargestellt durch SMILES-Strings, und ihren entsprechenden Indikationen. Die Studie konzentriert sich auf zwei Hauptaufgaben: „Medikament-zu-Indikation“, bei der das Ziel darin besteht, Indikationen aus dem SMILES-String eines Medikaments zu generieren, und „Indikation-zu-Medikament“, bei der das Ziel darin besteht, einen SMILES-String für ein Medikament zu generieren, das eine gegebene Reihe von Indikationen behandelt. Die erfolgreiche Umsetzung dieser Übersetzung könnte den Weg für die Suche nach Behandlungen für derzeit unheilbare Krankheiten ebnen.

Bestehende Forschung hat bereits das Potenzial von KI in der Medikamentenentdeckung und im Moleküldesign aufgezeigt. Ansätze umfassen Graph-Neuronale Netze und generative KI-Modelle. Einige Bemühungen haben GPT-basierte Modelle zur Entwicklung von Molekülen mit gewünschten Eigenschaften eingesetzt, während andere die T5-Architektur für Aufgaben wie Reaktionsvorhersage und Konvertierung zwischen Moleküldarstellungen und SMILES-Strings verwendet haben. Zusätzliche Arbeiten beinhalten die Generierung neuer Moleküle aus Genexpressionssignaturen oder die Verwendung von rekurrenten und Graph-Neuronalen Netzen zur Vorhersage von Medikamenten und ihren Indikationen. Diese Fortschritte unterstreichen eine solide Grundlage für die Nutzung von KI im Moleküldesign und in der Medikamentenentdeckung.

Bewertung der LLM-Fähigkeiten für die Medikamenten-Indikations-Übersetzung

Diese Forschung bewertet speziell die Fähigkeiten von MolT5, einem T5-basierten Modell, bei der Durchführung der Übersetzungsaufgaben von Medikament zu Indikation und von Indikation zu Medikament. Die Experimente nutzten Medikamentendaten aus zwei prominenten Datenbanken: DrugBank und ChEMBL. Für die Aufgabe „Medikament-zu-Indikation“ war die Eingabe der SMILES-String eines vorhandenen Medikaments, und die Zielausgabe waren seine zugehörigen Indikationen. Bei der Aufgabe „Indikation-zu-Medikament“ war die Eingabe eine Reihe von Indikationen, und das Modell versuchte, den SMILES-String eines Medikaments zu generieren, das diese Zustände behandeln könnte.

Die Studie verwendete alle verfügbaren MolT5-Modellgrößen (klein, mittel und groß) und testete sie unter drei verschiedenen experimentellen Konfigurationen: Bewertung von Basismodellen auf dem gesamten Datensatz, Bewertung auf einem 20%igen Teildatensatz und Feinabstimmung der Modelle auf 80% des Datensatzes, gefolgt von einer Bewertung auf den verbleibenden 20% Teildatensatz. Die Ergebnisse zeigten, dass größere MolT5-Modelle durchweg kleinere übertrafen, und zwar über alle Konfigurationen und Aufgaben hinweg. Interessanterweise hatte die Feinabstimmung der MolT5-Modelle oft eine negative Auswirkung auf die Leistung, was darauf hindeutet, dass das vortrainierte Wissen durch die Feinabstimmung für diese spezifische Aufgabe gestört werden könnte.

Nach diesen anfänglichen Experimenten trainierten die Forscher das kleinste verfügbare MolT5-Modell von Grund auf neu, unter Verwendung eines benutzerdefinierten Tokenizers. Dieses benutzerdefinierte Modell zeigte eine verbesserte Leistung bei den DrugBank-Daten für die Aufgabe „Medikament-zu-Indikation“ im Vergleich zu den ChEMBL-Daten, möglicherweise aufgrund der reichhaltigeren Details in den Indikationsbeschreibungen von DrugBank. Die Feinabstimmung dieses benutzerdefinierten Modells auf 80% eines der Datensätze verschlechterte die Leistung für die Aufgabe „Medikament-zu-Indikation“ nicht und führte sogar zu Verbesserungen bei einigen Metriken. Für die Aufgabe „Indikation-zu-Medikament“ führte die Feinabstimmung jedoch nicht durchweg zu einer Leistungssteigerung bei beiden Datensätzen.

Herausforderungen und zukünftige Richtungen

Trotz vielversprechender Ergebnisse ist die aktuelle Leistung dieser Modelle noch nicht zufriedenstellend. Die Forscher identifizierten eine Schlüsselherausforderung: das schwache „Signal“ zwischen SMILES-Strings und Indikationen. Im Gegensatz zur ursprünglichen MolT5-Aufgabe, bei der ähnliche SMILES-Strings oft ähnliche Textbeschreibungen (molekulare Bildunterschriften) hatten, können im Kontext von Medikamenten und Indikationen ähnliche SMILES-Strings unterschiedliche Medikamente mit völlig unterschiedlichen Indikationen darstellen. Umgekehrt können unterschiedliche SMILES-Strings Medikamenten mit ähnlichen therapeutischen Anwendungen entsprechen. Dieser Mangel an einer direkten, konsistenten Beziehung erschwert die Erzielung hoher Leistungen. Die Studie legt nahe, dass eine Zwischenrepräsentation, auf die sowohl Medikamente als auch Indikationen abgebildet werden, die Leistung potenziell verbessern könnte. Beispielsweise könnte die Abbildung eines SMILES-Strings auf seine Bildunterschrift und die anschließende Übersetzung dieser Bildunterschrift in eine Indikation ein fruchtbarer Weg für zukünftige Forschung sein.

Ein weiteres signifikantes Problem ist die Datenknappheit. Die verfügbaren Datensätze, ChEMBL und DrugBank, enthalten insgesamt weniger als 10.000 Medikamenten-Indikations-Paare. Diese begrenzte Datenmenge schränkt die Fähigkeit ein, ein starkes Signal zwischen SMILES-Strings und Indikationen herzustellen. Zukünftige Arbeiten könnten sich auf Methoden zur Anreicherung dieser Daten konzentrieren.

Insgesamt zeigten die Experimente durchweg, dass größere Modelle tendenziell besser abschneiden. Die Forscher schlussfolgern, dass durch die Nutzung größerer Modelle und den Zugriff auf mehr Daten oder Daten mit einem stärkeren inhärenten Signal zwischen Medikamentenindikationen und SMILES-Strings eine erfolgreiche Übersetzung ermöglicht und die Entdeckung neuer Medikamente gefördert werden könnte. Die Studie räumt auch ein, dass ihre Bewertung ausschließlich auf automatisierten Metriken beruhte, die möglicherweise nicht perfekt mit menschlichem Urteilsvermögen korrelieren. Zukünftige Forschung könnte die Einbeziehung menschlicher Bewertungen oder den Einsatz von LLMs zur Beurteilung der Qualität generierter Indikationen untersuchen. Darüber hinaus könnte die Erforschung alternativer Modellarchitekturen, wie z. B. State Space Models (SSMs) wie Mamba, die eine lineare Skalierung mit der Sequenzlänge bieten, zu einer besseren Leistung und rechnerischen Effizienz im Vergleich zur aktuellen Transformer-Architektur führen.

Schlussfolgerung

Diese Forschung stellt eine neuartige Aufgabe vor: die Übersetzung zwischen Medikamentenmolekülen und ihren Indikationen unter Verwendung großer Sprachmodelle. Durch die Rahmung als Text-zu-Text-Übersetzungsproblem untersuchte die Studie zwei Richtungen: Generierung von Indikationen aus Medikamenten-SMILES-Strings und Generierung von SMILES-Strings aus Indikationen. Experimente mit MolT5-Modellen auf den Datensätzen DrugBank und ChEMBL zeigten, dass größere Modelle im Allgemeinen besser abschneiden, während die Feinabstimmung die Leistung manchmal beeinträchtigen kann. Die identifizierten Herausforderungen eines schwachen Signals und Datenknappheit deuten auf zukünftige Forschungsrichtungen hin, einschließlich der Verwendung von Zwischenrepräsentationen und Datenanreicherung. Das ultimative Ziel ist es, LLMs zu nutzen, um die Medikamentenentdeckung zu beschleunigen und zu neuen Behandlungen für ungedeckten medizinischen Bedarf zu führen.

Original source: "https://www.nature.com/articles/s41598-024-61124-0"