Teknologi.Bagian dari ensiklopedia.onlineCari/
BerandaAI & otomasiTransformer
Perangkat lunak & algoritme

Transformer

Transformer memodelkan urutan dengan attention dan transformasi feed-forward, tanpa rekursi urutan sebagai mekanisme utama. Informasi posisi ditambahkan agar urutan dapat dibedakan.

AI & otomasi1 rujukanProfil diperbarui
Lihat rujukanBandingkan teknologi
Peta fungsi teknologi: TransformerMasukan: Urutan embedding dan informasi posisi. Bagian: Attention; Feed-forward; Informasi posisi. Keluaran: Representasi urutan atau peluang token pada arsitektur terkait. Bagian dikelompokkan menurut fungsi, bukan urutan perakitan.MASUKANUrutan embedding dan informasiposisi.BAGIAN FUNGSIONALAttentionMenggabungkan informasiantartoken.Feed-forwardMentransformasi representasiposisi.Informasi posisiMewakili urutan.KELUARANRepresentasi urutan ataupeluang token pada arsitekturterkait.
Peta fungsi teknologi

Diagram konseptual dari masukan, fungsi bagian, dan keluaran dalam profil. Susunan kotak tidak menunjukkan urutan perakitan atau posisi fisik.

Teknologi · CC BY 4.0 · Sumber data

Bagaimana cara kerjanya?

Proyeksi membentuk query, key, dan value. Hasil perkalian query-key yang diskalakan dinormalisasi softmax untuk membobot value; beberapa head digabungkan, lalu blok feed-forward dan sambungan residual memperbarui representasi per posisi.

Rujukan penjelasan

Bagian fungsional

  1. 01

    Attention

    Menggabungkan informasi antartoken.

  2. 02

    Feed-forward

    Mentransformasi representasi posisi.

  3. 03

    Informasi posisi

    Mewakili urutan.

Masukan dan keluaran

01 / Masukan

Urutan embedding dan informasi posisi.

02 / Keluaran

Representasi urutan atau peluang token pada arsitektur terkait.

Parameter teknis

Informasi dengan rujukan belum tersedia untuk bagian ini. Profil ini tidak menyajikan spesifikasi angka untuk model tertentu atau nilai yang berlaku bagi seluruh keluarga teknologi.

Versi dan status

Profil membahas konsep atau kategori teknologi; versi implementasi tertentu belum ditetapkan.

Status terbit profil berbeda dari status produksi, dukungan, atau sertifikasi perangkat.

Penerapan dan keterbatasan

  • Pemodelan bahasa
  • Transformasi urutan

Batas cakupan

Attention penuh membutuhkan interaksi antarpasangan posisi; hasil bergantung data dan aturan masking yang tepat.

Teknologi yang terhubung

Hubungan terverifikasi belum tersedia untuk profil ini. Kedekatan topik tidak membuktikan kompatibilitas atau ketergantungan.

Buka peta teknologi

Dasar penjelasan

  • 1. Attention Is All You Need ↗

    arXiv / authors of the paper

    Diakses 2026-10-13. Rujukan primer untuk parafrasa editorial. Teks, kode, gambar, dan merek sumber tidak disalin; hak asal tetap pada pemegangnya.
Penjelasan asli bahasa Indonesia disusun dengan pemeriksaan rujukan primer oleh agen AI. Belum ditinjau ahli. Baca metodologi dan batas pemeriksaan. Ringkasan standar tidak menggantikan teks normatif; ilustrasi konseptual tidak menjadi bukti konfigurasi model.