Nat Friedman membahas Sora, dan kebijaksanaan gambar

NF: Ya, saya mewawancarai pencipta Sora kemarin, sehari sebelumnya di atas panggung di sebuah acara dan sangat menarik untuk mendengar sudut pandang mereka. Saya pikir kita melihat Sora sebagai alat produksi media, itu bukan pandangan mereka, itu efek sampingnya. Pandangan mereka adalah bahwa ini adalah sebuah simulator dunia dan sebenarnya dapat mensimulasikan segala jenis perilaku di dunia, termasuk mengatakan, “Mari kita buat video dengan Ben, Daniel, dan Nat dan minta mereka mendiskusikan hal ini, ” lalu lihat ke mana arah pembicaraannya. Dan pandangan mereka juga adalah bahwa Sora saat ini adalah skala GPT-1, tidak banyak data, tidak banyak komputasi, jadi kita harus mengharapkan peningkatan yang sangat dramatis di masa depan karena mereka hanya meningkatkan skalanya dan yang ketiga hanya ada sedikit lebih banyak data video daripada data teks di Internet…

Lalu Andrej Karpathy, saya juga berbicara dengannya beberapa hari yang lalu, dan dia berkata, “Ada sesuatu yang aneh sedang terjadi-”

[Ben Thompson] Dan sebuah gambar dapat menyampaikan ribuan kata, jadi jumlah token di sana jauh lebih besar.

NF: Dia sedang mengeksplorasi gagasan bahwa model dunia, model gambar dan video sebenarnya mungkin lebih baik daripada model teks. Anda memintanya untuk mesin mobil, seseorang memperbaiki karburator dan tingkat detail yang ada di sana luar biasa, dan mungkin kami membuat kesalahan dengan melatih teks yang diambil dari Common Crawl dan apa yang harus kami lakukan. Saya menanyakan ide penelitiannya yang paling tidak tertekuk. Dia mengatakan yang harus kita lakukan adalah melatih gambar halaman web dan ketika Anda mengajukan pertanyaan kepada model, model tersebut akan mengeluarkan gambar halaman web dengan jawabannya dan mungkin kita akan mendapatkan lebih banyak kecerdasan dan hasil yang lebih baik dari itu.

Itu dari dialognya dengan Ben Thompson dan Daniel Gross, yang terjaga keamanannya tetapi layak dibayar.