TRUMAN
TRUstworthy huMAN-centric artificial intelligence
Avrupa Birliği' tarafından açılan "HORIZON-CL4-2024-HUMAN-03-02—Name: Explainable and Robust AI" isimli çağrı kapsamında EURECOM konsorsiyum liderliğinde desteklenmaye hak kazanan projede 8 ülkeden 12 partner yer almaktadır. Konsorsiyumda akademi, sanayi ve kamu temsilcileri yer almakta olup, yapay zekâ alanında disiplinler arası güçlü bir uzmanlık ağı bulunmaktadır.
İletişime Geç
Projenin Amacı
Yapay zekâ sistemlerinin güvenilirliğini artırmak
Kullanıcıların gizliliğini ve sistemlerin adilliğini gözeterek güvenli ve etik çözümler üretmek hedeflenmektedir.
İnsan-merkezli yapay zekâ çözümleri geliştirmek
Kullanıcının sistem üzerindeki kontrolünü sağlayan, şeffaf ve açıklanabilir çözümler tasarlanacaktır.
HITL (Human-in-the-loop) yaklaşımlı karar sistemleri geliştirmek
İnsan katılımını içeren ve kullanıcı etkilerini gözeten etik karar destek sistemleri geliştirilecektir.
Farklı sektörlere uygulanabilir yapay zekâ modelleri geliştirmek
Sağlık, finans ve pazarlama gibi alanlarda kullanılabilecek genelleştirilebilir modeller üretilecektir.
Genel yapay zekâ ilkeleri ve rehberleri geliştirmek
Etik, güvenilirlik ve şeffaflık odağında temel prensipler oluşturarak rehber dokümanlar hazırlanacaktır.
Projenin Konusu
Projede kullanıcı katılımını ve güvenliği merkeze alan, farklı sektörlerde uygulanabilir, açıklanabilir ve dayanıklı yapay zekâ sistemleri geliştirilecektir.
Açıklanabilir ve Katılımcı Yapay Zekâ Sistemleri
Bilgi grafikleri, HITL prensipleri ve dinamik veri toplama senaryoları ile kullanıcı merkezli sistemler tasarlanacaktır.
Güvenlik, Gizlilik ve Dayanıklılık Çözümleri
Adversarial saldırılara karşı koruyucu yaklaşımlar ve LLM’ler için geliştirilmiş dayanıklı yapılar ele alınacaktır.
Sektörel Uygulamalar ve Politika Rehberleri
Pazarlama, finans ve sağlık gibi alanlara yönelik örnek senaryolarla teknoloji testleri yapılacak, politika önerileri hazırlanacaktır.
DERİN ile Şube içi Suistimal İşlemlerinin Tespiti
Adversarial Dayanıklılık ve Güvenlik Çözümleri
Etik ve Açıklanabilir AI Modelleri Geliştirme
Finans Sektörüne Regülasyon Uyumlu AI Getirmek
Finans sektörüne yönelik güvenli, şeffaf ve açıklanabilir yapay zekâ rehberleri
Bu proje sayesinde bankacılık ve finans uygulamaları için etik, güvenli ve açıklanabilir yapay zekâ sistemlerine dair uygulanabilir çözümler geliştirilecektir. Proje çıktıları, yapay zekâ tasarımı, kullanıcı güvenliği ve regülasyon uyumluluğu açısından sektöre yön verecek nitelikte olacaktır.
Açıklanabilirlik ve Etik Uyum Rehberleri
Proje kapsamında geliştirilen yapay zekâ sistemleri, kullanıcıların karar sürecini anlamasını kolaylaştıracak şekilde tasarlanacaktır. Sosyal bilimler perspektifiyle açıklanabilirlik metodolojileri ve kullanıcı dostu arayüzler geliştirilecektir. Trustworthy AI ilkeleriyle uyumlu tasarımlar sayesinde etik riskler azaltılacaktır.
Dayanıklı ve Güvenli Yapay Zekâ Modelleri
Adversarial saldırılara dayanıklı yapay zekâ çözümleri geliştirilmiş ve performans metrikleriyle test edilecektir. Açık inovasyon çağrılarıyla sektör bazlı geri bildirim toplanmış ve çözümler yaygınlaştırılacaktır. Bilgi grafikleri ve büyük dil modelleri ile desteklenen dayanıklı AI mimarileri tasarlanacaktır.
Uluslararası İş Birlikleri ve Bilgi Transferi
Kanada ve Hindistan gibi ülkelerle ortak Ar-Ge süreçleri yürütülerek bilgi paylaşımı sağlanacaktır. Avrupa AR-GE ağıyla belirlenen başarı kriterleri doğrultusunda sonuçların paylaşımı yapılacaktır. Proje çıktıları sektörde regülasyon uyumu ve teknoloji transferi açısından örnek teşkil edecektir.
