Teknologi.Bagian dari ensiklopedia.onlineCari/
BerandaAI & otomasiCollaborative Research: SLES: No Bad Surprises: Aligning Agent and Human Norms via Specification Refinements
Proyek riset & pengembangan

Collaborative Research: SLES: No Bad Surprises: Aligning Agent and Human Norms via Specification Refinements

Ringkasan tujuan riset

Penyelarasan norma agen pembelajaran penguatan menggunakan logika kewajiban dan pemantauan operasi untuk menemukan perilaku robot yang mengejutkan perancang.

AI & otomasi1 rujukanProfil diperbarui
Lihat rujukanBandingkan proyek
Linimasa NSF 2416459Periode tercatat 2024-09-01 sampai 2028-08-31.NSF 2416459MulaiAkhir tercatat202420292024-09-012028-08-31
Linimasa dan catatan proyek

Tanggal dan TRL menurut catatan penerbit. Akhir periode dan target bukan bukti hasil riset.

Teknologi · CC BY 4.0 · Sumber data

Apa tujuan dan pendekatan risetnya?

Profil ini merangkum ruang lingkup proyek yang dipublikasikan National Science Foundation (NSF). Sumber diakses . Uraian pendekatan dan manfaat menyatakan tujuan pengembangan, kecuali sumber secara khusus melaporkan hasil.

Robot dapat mengoptimalkan imbalan sambil menghasilkan tindakan yang tidak diantisipasi manusia. Proyek ini membatasi pembelajaran penguatan invers dengan logika deontik, menelusuri norma agen, dan meminta penjelasan fungsi imbalannya. Spesifikasi kewajiban pengetahuan serta pemantau operasi akan mendeteksi pelanggaran tindakan atau persepsi. Hasil verifikasi memperbarui pembelajaran; pengujian direncanakan melalui simulator robot berkaki dua, mobil balap mini, dan robot pengantaran kampus.

Baca uraian penerbit

Konteks pengembangan

Institusi penerima pada catatan
Oregon State University
Program
AI-Safety
Periode pendanaan tercatat
2024-09-01 → 2028-08-31

Proyek kolaboratif beberapa institusi diwakili oleh satu catatan penghargaan. Institusi di atas adalah penerima pada catatan tersebut.

Klasifikasi NSF

  • Directorate for Computer and Information Science and Engineering
  • CSE - Core Programs

Label penerbit dipertahankan sebagai konteks. Bidang katalog merupakan pengelompokan editorial.

Apa yang diketahui tentang statusnya?

Status pendanaan menurut NSFAktif (catatan pendanaan NSF)

Catatan NSF tidak melaporkan tingkat kesiapan teknologi (TRL). Status pendanaan aktif atau berakhir bukan bukti keberhasilan riset.

Batas informasi

Profil merangkum tujuan dan pendekatan dalam abstrak pendanaan NSF. Status pendanaan tidak membuktikan keberhasilan riset, kesiapan teknologi, atau ketersediaan produk. Hasil dan performa belum diverifikasi secara independen; tinjauan ahli belum dilakukan.

Dasar profil

Metodologi dan batas pemeriksaan. Ringkasan berbahasa Indonesia disusun sebagai parafrasa editorial dengan pemeriksaan sumber primer oleh agen AI. Identitas, periode, serta status berasal dari catatan penerbit. Tinjauan ahli dan pengujian kinerja independen belum dilakukan; rujukan tidak menyiratkan dukungan atau sertifikasi NSF.