ಗೊತ್ತುವಳಿ-ಟ್ಯೂಟರಿಯಲ್ಸ್

Robots.txt ವಿವರಿಸಲಾಗಿದೆ

ಕೊನೆಯದಾಗಿ ನವೀಕರಿಸಿದ 2025-06-06

Robots.txt ಅನ್ನು ಸಂಕ್ಷಿಪ್ತವಾಗಿ ವಿವರಿಸಲಾಗಿದೆಃ

ನಿಮ್ಮ ಸೈಟ್ಗೆ ರೋಬೋಟ್ ಪ್ರವೇಶವನ್ನು ಮಿತಿಗೊಳಿಸಲು ಬಳಸಿದಾಗ, ಕೆಲಸದಲ್ಲಿನ ವಿಷಯ ಮತ್ತು ಸೂಕ್ಷ್ಮ ಮಾಹಿತಿಯಂತಹ Robots.txt ಒಂದು ಉಪಯುಕ್ತ ಸಾಧನವಾಗಿದೆ. ಈ ಸಮಯದಲ್ಲಿ ರೋಬೋಟ್ಗಳನ್ನು ಸೈಟ್ನ ಸೂಚ್ಯಂಕ ಭಾಗಗಳಿಗೆ ತಳ್ಳುವ ಅನುಮತಿ ನಿರ್ದೇಶನಕ್ಕಾಗಿ ರೋಬೋಟ್ಸ್ ಎಕ್ಸಕ್ಲೂಷನ್ ಸ್ಟ್ಯಾಂಡರ್ಡ್ ವರ್ಕಿಂಗ್ ಗ್ರೂಪ್ನಿಂದ ಯಾವುದೇ ಅನುಮೋದನೆಯಿಲ್ಲ. ನಿಮ್ಮ ವೆಬ್ಸೈಟ್ಗೆ ಆಂತರಿಕವಾಗಿ ಮತ್ತು ಬಾಹ್ಯವಾಗಿ ಲಿಂಕ್ ಮಾಡುವ ಮೂಲಕ ಇದನ್ನು ಇನ್ನೂ ಪ್ರಾರಂಭಿಸಬಹುದು.

ನಿಮ್ಮ ಜಾಲತಾಣದ ಬಳಕೆಯ ಅಂಕಿಅಂಶಗಳನ್ನು ಪರಿಶೀಲಿಸುವಾಗ'robots.txt'ಎಂಬ ಹೆಸರಿನ ಕಡತದ ಉಲ್ಲೇಖವನ್ನು ನೀವು ಗಮನಿಸಿರಬಹುದು. ಇದು ರೋಬೋಟ್ಗಳು (ಸರ್ಚ್ ಎಂಜಿನ್ ಸ್ಪೈಡರ್ಸ್) ಯಾವ ಕಡತಗಳು ಮತ್ತು ಕೋಶಗಳನ್ನು ಸೂಚ್ಯಂಕ ಮಾಡಬಾರದು ಎಂಬುದನ್ನು ಗಮನಿಸಲು ಬಳಸುವ ಮೂಲ ಸಂರಚನೆ ಕಡತವಾಗಿದೆ.

ನಿಮ್ಮ ಜಾಲತಾಣದ root ನಲ್ಲಿ robots.txt ಎಂಬ ಕಡತವನ್ನು ಹೊಂದಿರುವುದು ಮುಖ್ಯವಾಗಿದೆ.http://www.yourdomain.com/robots.txt)ರೋಬೋಟ್ಗಳು ಯಾವ ಕಡತಗಳು ಮತ್ತು ಕೋಶಗಳನ್ನು ಸೂಚ್ಯಂಕ ಮಾಡಬಾರದು ಎಂಬುದನ್ನು ಗಮನಿಸುವುದು robots.txt ನ ಮೂಲ ಬಳಕೆಯಾಗಿದೆ.

robots.txt ಕಡತ ರಚನೆಯ ವಾಕ್ಯರಚನೆಯಲ್ಲಿ 2 ಅಂಶಗಳಿವೆಃ ಯೂಸರ್ ಏಜೆಂಟ್ ಲೈನ್ ಮತ್ತು ಡಿಸ್ಅಲೋ ಲೈನ್.

ವಾಕ್ಯರಚನೆಯು ಈ ಕೆಳಗಿನಂತಿದೆಃ

ಬಳಕೆದಾರ-ಏಜೆಂಟ್
ನಿಮ್ಮ ಜಾಲತಾಣಕ್ಕೆ ಭೇಟಿ ನೀಡುವ ರೋಬೋಟ್ಗಳ ಪಟ್ಟಿಯನ್ನು ನಿಮ್ಮ ಜಾಲತಾಣದ ಅಂಕಿಅಂಶಗಳ ದಾಖಲೆಗಳಲ್ಲಿ ನೋಡಬಹುದು. ಬಳಕೆದಾರ-ಏಜೆಂಟರ ಪಟ್ಟಿಯನ್ನು ಇಲ್ಲಿ ನೋಡಬಹುದು.http://www.robotstxt.org/wc/active.html

ಒಂದು ನಿರ್ದಿಷ್ಟ ರೋಬೋಟ್ ಅನ್ನು ಯೂಸರ್-ಏಜೆಂಟ್ ವಾಕ್ಯರಚನೆಯಲ್ಲಿ ಉಲ್ಲೇಖಿಸಬಹುದು.

ಬಳಕೆದಾರ-ಏಜೆಂಟ್ಃ ಗೂಗಲ್ಬಾಟ್

ಎಲ್ಲಾ robots.txt ಕಡತಗಳಿಗೆ ಹೊಂದಿಕೆಯಾಗಲು ವೈಲ್ಡ್ ಕಾರ್ಡ್ ಅನ್ನು ಸಹ ಬಳಸಬಹುದು.

ಬಳಕೆದಾರ-ಏಜೆಂಟ್ಃ *

ಅನುಮೋದಿಸಬೇಡಿ
ವಾಕ್ಯರಚನೆಯ ಈ ವಿಭಾಗವು ಯಾವ ಕಡತಗಳು ಮತ್ತು ಕೋಶಗಳನ್ನು ಸೂಚ್ಯಂಕ ಮಾಡಬಾರದು ಎಂದು ಹೇಳುತ್ತದೆ.

ನೀವು'addresses.html'ಎಂಬ ಹೆಸರಿನ ಪುಟವನ್ನು ಹೊಂದಿದ್ದರೆ ಮತ್ತು ರೋಬೋಟ್ ಅದನ್ನು ಸೂಚ್ಯಂಕಗೊಳಿಸಲು ನಿಮಗೆ ಇಷ್ಟವಿಲ್ಲದಿದ್ದರೆ, ಬಳಕೆದಾರ-ಏಜೆಂಟ್ ವಾಕ್ಯರಚನೆಯ ನಂತರ ಈ ಕೆಳಗಿನ ಸಾಲನ್ನು ಸೇರಿಸಿಃ

ಅನುಮತಿಸಬೇಡಿಃ addresses.html

ನೀವು ರೋಬೋಟ್ ಅನ್ನು ಡೈರೆಕ್ಟರಿ ಮಟ್ಟದಲ್ಲಿಯೂ ಸಹ ಸೀಮಿತಗೊಳಿಸಬಹುದು. ನಿಮ್ಮ ಜಾಲತಾಣದಲ್ಲಿರುವ'/ ಬಿಲ್ಲಿಂಗ್'ಡೈರೆಕ್ಟರಿಯನ್ನು ಸೂಚ್ಯಂಕದಿಂದ ನಿರ್ಬಂಧಿಸಬೇಕಾದರೆ, ಬಳಕೆದಾರ-ಏಜೆಂಟ್ ವಾಕ್ಯರಚನೆಯ ನಂತರ ಈ ಕೆಳಗಿನ ಪಠ್ಯವನ್ನು ಇರಿಸಿ.

ಅನುಮತಿಸಬೇಡಿಃ/ಬಿಲ್ಲಿಂಗ್ /

ಸೈಟ್ನಲ್ಲಿರುವ ಎಲ್ಲಾ ಕಡತಗಳನ್ನು ಟಿಪ್ಪಣಿ ಮಾಡಲು ವೈಲ್ಡ್ ಕಾರ್ಡ್ ಅನ್ನು ಸಹ ಬಳಸಬಹುದು.

ಅನುಮತಿಸಬೇಡಿಃ /

ನನ್ನ robots.txt ಕಡತದಲ್ಲಿ ನಾನು ಹೇಗೆ ಕಾಮೆಂಟ್ಗಳನ್ನು ಮಾಡಬಹುದು?
ಕೋಡಿಂಗ್ ಕಾಮೆಂಟ್ಗಳನ್ನು ಯಾವುದೇ ಪಠ್ಯದ ಮೊದಲು'#'ಅನ್ನು ಇರಿಸುವ ಮೂಲಕ robots.txt ಕಡತದಲ್ಲಿ ಇರಿಸಬಹುದು. ಒಂದು ಉದಾಹರಣೆಯೆಂದರೆಃ

#ಗೂಗಲ್ಬಾಟ್ ಅನ್ನು ಬಳಕೆದಾರ-ಏಜೆಂಟ್ ಎಂದು ನಿರ್ದಿಷ್ಟಪಡಿಸುತ್ತದೆ.
ಬಳಕೆದಾರ-ಏಜೆಂಟ್ಃ ಗೂಗಲ್ಬಾಟ್

ನಿಮ್ಮ ಅಭಿಪ್ರಾಯಗಳನ್ನು ನಿರ್ದೇಶನಕ್ಕಿಂತ ಪ್ರತ್ಯೇಕ ಸಾಲಿನಲ್ಲಿ ಇಡುವುದು ಒಳ್ಳೆಯದು. ಜೊತೆಗೆ, ನಿರ್ದೇಶನದ ಸಾಲುಗಳ ಆರಂಭದಲ್ಲಿ ಬಿಳಿಯ ಜಾಗವನ್ನು ಮಿತಿಗೊಳಿಸಿ.


ಬಳಸಲು robots.txt ಅನ್ನು ಹಾಕಲಾಗುತ್ತಿದೆಃ
ಈಗ ನಮಗೆ robots.txt ನ ಕಾರ್ಯಕ್ಷಮತೆ ತಿಳಿದಿರುವುದರಿಂದ, ಅದನ್ನು ಅಭ್ಯಾಸ ಮಾಡೋಣ.

ನಿಮ್ಮ ಜಾಲತಾಣದ ಎಲ್ಲಾ ಪುಟಗಳಿಗೆ ಭೇಟಿ ನೀಡಲು ನೀವು ಎಲ್ಲಾ ರೋಬೋಟ್ಗಳಿಗೆ ಅವಕಾಶ ನೀಡಲು ಬಯಸಿದರೆ, ನೀವು robots.txt ಕಡತದಲ್ಲಿರುವ ನಿಮ್ಮ ವಾಕ್ಯರಚನೆಯಲ್ಲಿ "*" ವೈಲ್ಡ್ಕಾರ್ಡ್ ಅನ್ನು ಬಳಸಬೇಕು.

ಬಳಕೆದಾರ-ಏಜೆಂಟ್ಃ *
ಅನುಮೋದಿಸಬೇಡಿಃ

ನಿಮ್ಮ ಸೈಟ್ನ ಎಲ್ಲಾ ಸೂಚ್ಯಂಕಗಳನ್ನು ಅನುಮತಿಸಲು, ನಿಮ್ಮ robots.txt ಕಡತದಲ್ಲಿ ಈ ಕೆಳಗಿನ ಪಠ್ಯವನ್ನು ನಮೂದಿಸಿಃ

ಬಳಕೆದಾರ-ಏಜೆಂಟ್ಃ *
ಅನುಮತಿಸಬೇಡಿಃ /

'ಬಿಲ್ಲಿಂಗ್'ಎಂಬ ಹೆಸರಿನ ಕೋಶದೊಳಗೆ ಪುಟಗಳನ್ನು ಸೂಚ್ಯಂಕಗೊಳಿಸಲು ರೋಬೋಟ್ಗಳನ್ನು ಅನುಮತಿಸಬೇಡಿ.

ಬಳಕೆದಾರ-ಏಜೆಂಟ್ಃ *
ಅನುಮತಿಸಬೇಡಿಃ/ಬಿಲ್ಲಿಂಗ್ /

"ಬಿಲ್ಲಿಂಗ್" ಮತ್ತು "ವಿಳಾಸ" ಎಂಬ ಹೆಸರಿನ ಕೋಶಗಳೊಳಗಿನ ಸೂಚ್ಯಂಕ ಪುಟಗಳಿಂದ ರೋಬೋಟ್ಗಳನ್ನು ಅನುಮತಿಸಬೇಡಿ.

ಬಳಕೆದಾರ-ಏಜೆಂಟ್ಃ *
ಅನುಮತಿಸಬೇಡಿಃ/ಬಿಲ್ಲಿಂಗ್ /
ಅನುಮತಿಸಬೇಡಿಃ/ವಿಳಾಸ /

ನಿಮ್ಮ ಸೈಟ್ನಿಂದ ಗೂಗಲ್ಬಾಟ್ ಅನ್ನು ಅನುಮತಿಸಬೇಡಿ.

ಬಳಕೆದಾರ-ಏಜೆಂಟ್ಃ ಗೂಗಲ್ಬಾಟ್
ಅನುಮತಿಸಬೇಡಿಃ /

ನಿಮ್ಮ ಸಂಪರ್ಕ ಪುಟವನ್ನು (contact-us.html) ಪ್ರವೇಶಿಸಲು ಗೂಗಲ್ಬಾಟ್ ಅನ್ನು ಅನುಮತಿಸಬೇಡಿ.

ಬಳಕೆದಾರ-ಏಜೆಂಟ್ಃ ಗೂಗಲ್ಬಾಟ್
ಅನುಮತಿಸಬೇಡಿಃ/ಸಂಪರ್ಕಿಸಿ-us.html

ನಿಮ್ಮ ಸಂಪರ್ಕ ಪುಟವನ್ನು ಪ್ರವೇಶಿಸಲು ಗೂಗಲ್ಬಾಟ್ ಅನ್ನು ಅನುಮತಿಸಬೇಡಿ (ನಮ್ಮ ಬಗ್ಗೆ/ಸಂಪರ್ಕ-us.html).

ಬಳಕೆದಾರ-ಏಜೆಂಟ್ಃ ಗೂಗಲ್ಬಾಟ್
ಅನುಮತಿಸಬೇಡಿಃ/ನಮ್ಮ ಬಗ್ಗೆ/ಸಂಪರ್ಕ-us.html
* * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * * *

ಕ್ರಾಲರ್ಗಳನ್ನು ಮಿತಿಗೊಳಿಸಲಾಗುತ್ತಿದೆ

ನಿಮ್ಮ ಸೈಟ್ನಲ್ಲಿ ನೀವು ಸಾಕಷ್ಟು ಕೊಂಡಿಗಳನ್ನು ಹೊಂದಿದ್ದರೆ (ಉದಾಹರಣೆಗೆ, ನೀವು ವೇದಿಕೆಗಳನ್ನು ಹೊಂದಿದ್ದರೆ), ಯಾಹೂ ಬೋಟ್ ಕೊಂಡಿಗಳನ್ನು ತುಂಬಾ ವೇಗವಾಗಿ ಕ್ರಾಲ್ ಮಾಡುವ ಸಾಧ್ಯತೆಯಿದೆ ಮತ್ತು ಬಹಳಷ್ಟು ಬ್ಯಾಂಡ್ವಿಡ್ತ್ ಮತ್ತು ಇತರ ಸಂಪನ್ಮೂಲಗಳನ್ನು ಬಳಸುತ್ತದೆ. ಅದನ್ನು ತಡೆಗಟ್ಟಲು, ಈ ಸಾಲುಗಳನ್ನು ನಿಮ್ಮ robots.txt ಕಡತಕ್ಕೆ ಸೇರಿಸಿಃ

ಬಳಕೆದಾರ-ಏಜೆಂಟ್ಃ ಸ್ಲರ್ಪ್
ಕ್ರಾಲ್-ವಿಳಂಬಃ 60

ಇದು ಯಾಹೂ ಸ್ಲರ್ಪ್ಗೆ ಪ್ರತಿ 60 ಸೆಕೆಂಡಿಗೆ ಒಂದು ಪುಟವನ್ನು ಮಾತ್ರ ಕ್ರಾಲ್ ಮಾಡಲು ಹೇಳುತ್ತದೆ.

ಎಲ್ಲಾ ಜ್ಞಾನ ಆಧಾರಿತ ಲೇಖನಗಳು

ಏನು ಉಳಿಯಬೇಕು ಎಂದು ನಮಗೆ ತಿಳಿಸಿ.

A short conversation with an engineer. No quote-bot, no callback queue.