Asteak daramatzat 7B-ko eredu baten barruan zer gertatzen den aztertzen, aritmetika-problemak ebazten dituenean. Arrasto askotan «itxaron, egiaztatuko dut» moduko esaldi bat agertzen da, eta ondoren zuzenketa bat. Arrazoitzea dirudi. Galdera da ea ereduak benetan zerbait zuzentzen duen, ala zuzentzen ari dela antzezten duen soilik.[1]
Zer neurtzen dugu
Azken erantzuna hondar-fluxutik () irakurtzen dugu posizio bakoitzean, bereiz entrenatutako zunda lineal batekin: (Alain eta Bengio, 2016). Ereduak benetan berrikusten badu, erantzunak «itxaron» tokenaren ondoren agertu beharko luke.
Erantzuna zalantza baino hainbat token lehenago irakur daiteke. Berrikusteko testua berandu iristen da.
Ereduak ez du zalantzarik egiten: zalantza egiten duen norbait antzezten du.
Sarrera honetako zenbakiak adibidekoak dira. ↩︎
Erreferentziak
- Alain, G. eta Bengio, Y. (2016). Understanding intermediate layers using linear classifier probes. arXiv:1610.01644. https://arxiv.org/abs/1610.01644
- Belinkov, Y. (2022). Probing Classifiers: Promises, Shortcomings, and Advances. Computational Linguistics, 48(1), 207–219.