Teknologi.Bagian dari ensiklopedia.onlineCari/
BerandaKomputasi & perangkat lunakSLES: High-Confidence Guarantees for Safe Reward and Policy Learning Under Uncertainty
Proyek riset & pengembangan

SLES: High-Confidence Guarantees for Safe Reward and Policy Learning Under Uncertainty

Ringkasan tujuan riset

Pembelajaran imbalan dari umpan balik manusia diteliti dengan batas probabilistik dan pengujian penyelarasan agar kebijakan tetap tangguh terhadap ketidakpastian maksud.

Komputasi & perangkat lunak1 rujukanProfil diperbarui
Lihat rujukanBandingkan proyek
Linimasa NSF 2416761Periode tercatat 2024-08-15 sampai 2027-07-31.NSF 2416761MulaiAkhir tercatat202420282024-08-152027-07-31
Linimasa dan catatan proyek

Tanggal dan TRL menurut catatan penerbit. Akhir periode dan target bukan bukti hasil riset.

Teknologi · CC BY 4.0 · Sumber data

Apa tujuan dan pendekatan risetnya?

Profil ini merangkum ruang lingkup proyek yang dipublikasikan National Science Foundation (NSF). Sumber diakses . Uraian pendekatan dan manfaat menyatakan tujuan pengembangan, kecuali sumber secara khusus melaporkan hasil.

Proyek merumuskan batas kinerja berkepercayaan tinggi bagi kebijakan yang dibangun dari fungsi imbalan hasil pembelajaran. Uji unit akan memeriksa kesesuaian imbalan dan perilaku terhadap maksud manusia. Optimasi kebijakan kemudian diberi penalti untuk perilaku menyimpang akibat identifikasi imbalan keliru atau generalisasi tujuan yang salah. Pendekatan ini menargetkan ketahanan terhadap ketidakpastian, termasuk reward hacking, tanpa menganggap maksud manusia selalu dapat ditentukan tepat.

Baca uraian penerbit

Konteks pengembangan

Institusi penerima pada catatan
University of Utah
Program
AI-Safety
Periode pendanaan tercatat
2024-08-15 → 2027-07-31

Proyek kolaboratif beberapa institusi diwakili oleh satu catatan penghargaan. Institusi di atas adalah penerima pada catatan tersebut.

Klasifikasi NSF

  • Directorate for Computer and Information Science and Engineering
  • CSE - Core Programs

Label penerbit dipertahankan sebagai konteks. Bidang katalog merupakan pengelompokan editorial.

Apa yang diketahui tentang statusnya?

Status pendanaan menurut NSFAktif (catatan pendanaan NSF)

Catatan NSF tidak melaporkan tingkat kesiapan teknologi (TRL). Status pendanaan aktif atau berakhir bukan bukti keberhasilan riset.

Batas informasi

Profil merangkum tujuan dan pendekatan dalam abstrak pendanaan NSF. Status pendanaan tidak membuktikan keberhasilan riset, kesiapan teknologi, atau ketersediaan produk. Hasil dan performa belum diverifikasi secara independen; tinjauan ahli belum dilakukan.

Dasar profil

Metodologi dan batas pemeriksaan. Ringkasan berbahasa Indonesia disusun sebagai parafrasa editorial dengan pemeriksaan sumber primer oleh agen AI. Identitas, periode, serta status berasal dari catatan penerbit. Tinjauan ahli dan pengujian kinerja independen belum dilakukan; rujukan tidak menyiratkan dukungan atau sertifikasi NSF.