Miért van szükség a mesterséges intelligensnek egy "Genie-együttható"-ra?
SZERZŐ
Bruce Schneier
FORRÁS
Schneier on Security
DATE
READ
1 perc olvasás
Az IEEE Spectrum cikkét Barath Raghavan, amely a jelenlegi AI-mérés módszereit, az emberi szándékhoz való igazodás helyett, kritizálja, a szerzők kiemelik az emberi, de néha homályos kérés és az AI által követett …
Ez a cikk Barath Raghavannal közös, és eredetileg az IEEE Spectrumben jelent meg. A főbb mérőszámok azt mérik, hogy az AI mit tud. De nem mérik, hogy az AI azt csinálja, amit szeretnél: a különbséget, amely a között van, amit egy AI-tól kérsz, és a nem nyilvánvaló feltételeket, amelyek szerint szeretnéd, hogy az AI azt csinálja. Javasolunk egy új mérőszámot: a “Genie” mutatót. Gyakran van különbség egy ember kérésében és egy másik ember megértésében. Általában ezt a közös tudással vagyunk képes megoldani. Például, ha kérd egy barátot, hogy hozjon neked kávét, akkor a kávézóból vagy a kávéscsészából fog kávét tölteni. Nem kér egy csomag friss kávébabot, sem pedig egy csészt egy ismeretlentől. Soha nem hatáztad ezt meg.