Teknologi.Bagian dari ensiklopedia.onlineCari/
BerandaKomputasi & perangkat lunakSLES: Monitoring, Improving, and Certifying Safe Foundation Models
Proyek riset & pengembangan

SLES: Monitoring, Improving, and Certifying Safe Foundation Models

Ringkasan tujuan riset

Ukuran keselamatan foundation model dikembangkan untuk kepercayaan yang terkalibrasi, konsistensi logis, dan keselarasan tujuan pengguna melalui deteksi serta mitigasi perilaku berisiko.

Komputasi & perangkat lunak1 rujukanProfil diperbarui
Lihat rujukanBandingkan proyek
Linimasa NSF 2416897Periode tercatat 2024-09-01 sampai 2027-08-31.NSF 2416897MulaiAkhir tercatat202420282024-09-012027-08-31
Linimasa dan catatan proyek

Tanggal dan TRL menurut catatan penerbit. Akhir periode dan target bukan bukti hasil riset.

Teknologi · CC BY 4.0 · Sumber data

Apa tujuan dan pendekatan risetnya?

Profil ini merangkum ruang lingkup proyek yang dipublikasikan National Science Foundation (NSF). Sumber diakses . Uraian pendekatan dan manfaat menyatakan tujuan pengembangan, kecuali sumber secara khusus melaporkan hasil.

Tiga kriteria—Robust-Confidence, Self-Consistency, dan Alignment Safety—akan diformalkan untuk kasus langka, konteks serupa, serta respons yang sesuai tujuan. Metode mendeteksi skenario tidak aman sebelum algoritme perbaikan dikembangkan. Pengujian menggunakan framework terbuka LMFlow untuk akses dan implementasi praktis. Riset menargetkan ukuran kuantitatif yang memungkinkan perilaku model bahasa dipantau, diperbaiki, serta dinilai secara lebih sistematis.

Baca uraian penerbit

Konteks pengembangan

Institusi penerima pada catatan
University of Illinois at Urbana-Champaign
Program
AI-Safety
Periode pendanaan tercatat
2024-09-01 → 2027-08-31

Proyek kolaboratif beberapa institusi diwakili oleh satu catatan penghargaan. Institusi di atas adalah penerima pada catatan tersebut.

Klasifikasi NSF

  • Directorate for Computer and Information Science and Engineering
  • CSE - Core Programs

Label penerbit dipertahankan sebagai konteks. Bidang katalog merupakan pengelompokan editorial.

Apa yang diketahui tentang statusnya?

Status pendanaan menurut NSFAktif (catatan pendanaan NSF)

Catatan NSF tidak melaporkan tingkat kesiapan teknologi (TRL). Status pendanaan aktif atau berakhir bukan bukti keberhasilan riset.

Batas informasi

Profil merangkum tujuan dan pendekatan dalam abstrak pendanaan NSF. Status pendanaan tidak membuktikan keberhasilan riset, kesiapan teknologi, atau ketersediaan produk. Hasil dan performa belum diverifikasi secara independen; tinjauan ahli belum dilakukan.

Dasar profil

Metodologi dan batas pemeriksaan. Ringkasan berbahasa Indonesia disusun sebagai parafrasa editorial dengan pemeriksaan sumber primer oleh agen AI. Identitas, periode, serta status berasal dari catatan penerbit. Tinjauan ahli dan pengujian kinerja independen belum dilakukan; rujukan tidak menyiratkan dukungan atau sertifikasi NSF.