Urodzony w Paryżu w rodzinie robotniczej, z korzeniami żydowsko-marokańskimi i hiszpańskimi, Anconina najpierw pracował jako dostawca i pomocnik w szpitalu, zanim podjął naukę aktorstwa. Przełom w karierze przyniósł mu film „Tchao Pantin” (1983) w reżyserii Claude’a Berri, za rolę małego handlarza narkotykami otrzymał Césara dla najlepszego aktora drugoplanowego oraz nagrodę za najlepszą nową twar…