Ang Anthropic ay nagtawag ng koordinadong pandaigdigang pahinto sa pagpapalago ng mga pinakamataas na sistema ng AI sa mundo, na nagbabala na ang mga susunod na modelo ay maaaring maging mahirap kontrolin ng mga tao.
Ang Anthropic ay nagsabing ang ganitong pagtigil lamang na maging epektibo kung ang mga pangunahing taga-develop ng AI at mga pamahalaan, lalo na ang Estados Unidos at Tsina, ay sumasang-ayon na makibahagi sa ilalim ng isang mapatunayang internasyonal na balangkas.
Ang kumpanya ay nagsabing ang pag-unlad ng AI ay mabilis na nag-aakselerado, at ang mga sistema ng AI ay palaging tumutulong sa paglikha at pagpapabuti ng mas bagong modelo ng AI. Iningatan ng Anthropic na ito ay maaaring magdulot sa huli ng "recursive self-improvement," kung saan ang mga sistemang AI ay magsisilbing makapagpapabuti sa sarili nila na may limitadong pakikilahok ng tao.
Kinilala ng Anthropic na ang pagkamit ng isang pandaigdigang kasunduan ay magiging mahirap dahil sa mga pampaligsahan at heopolitikong presyon, habang ang mga kumpanya at pamahalaan ay patuloy na nag-iinvesto nang malaki sa pag-unlad ng AI.
Mga pangunahing punto
Ang Anthropic ay nagmumungkahi ng pansamantalang pagtigil sa pag-unlad ng frontier AI
Mga tawag para sa internasyonal na koordinasyon na kasama ang Estados Unidos at Tsina
Nagbabala tungkol sa posibleng pagkawalan ng tao na nag-iisip at nagsasaayos sa mga hinaharap na sistema ng AI
Nagbibigay-diin sa mga panganib ng recursive na pagpapabuti ng sarili
Nagsasabing ang AI ay palaging tumutulong sa pagbuo ng mas bagong mga modelo ng AI
0 Comments
Leave a Reply