Robots.txt är en textfil som tillhör en grupp webbprotokoll som kallas Robots Exclusion Protocol eller REP. Den här filen styr sökmotorrobotar som Googlebots på vilka sidor som ska genomsökas och indexeras. Robot.txt hjälper webbplatser att undvika att bombarderas av för många förfrågningar. Det spelar en stor roll för att ha ett bra SEO-resultat.