From 636c6a91dff894a2dc0e5f1e3fbd3c1b3957b547 Mon Sep 17 00:00:00 2001 From: =?UTF-8?q?Emilio=20J=2E=20Rodr=C3=ADguez-Posada?= Date: Wed, 2 Jul 2014 16:19:49 +0200 Subject: [PATCH] adding spider for neoseeker, updating list, adding info file --- listsofwikis/neoseeker-spider.py | 34 +++ listsofwikis/neoseeker.com | 386 ++++++++++++++++++------------- listsofwikis/neoseeker.com.info | 8 + 3 files changed, 270 insertions(+), 158 deletions(-) create mode 100644 listsofwikis/neoseeker-spider.py create mode 100644 listsofwikis/neoseeker.com.info diff --git a/listsofwikis/neoseeker-spider.py b/listsofwikis/neoseeker-spider.py new file mode 100644 index 0000000..bf0cca7 --- /dev/null +++ b/listsofwikis/neoseeker-spider.py @@ -0,0 +1,34 @@ +#!/usr/bin/env python2 +# -*- coding: utf-8 -*- + +# Copyright (C) 2014 WikiTeam developers +# This program is free software: you can redistribute it and/or modify +# it under the terms of the GNU General Public License as published by +# the Free Software Foundation, either version 3 of the License, or +# (at your option) any later version. +# +# This program is distributed in the hope that it will be useful, +# but WITHOUT ANY WARRANTY; without even the implied warranty of +# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the +# GNU General Public License for more details. +# +# You should have received a copy of the GNU General Public License +# along with this program. If not, see . + +import re +import requests + +def main(): + headers = { + 'User-Agent': 'Mozilla/5.0 (X11; Linux i686; rv:24.0) Gecko/20100101 Firefox/24.0', + } + + url = 'http://neowiki.neoseeker.com/wiki/Special:WikiList' + r = requests.get(url, headers=headers) + raw = r.text + m = re.findall(ur'
  • ]+?)/wiki/\'>', raw) + for i in m: + print i + '/w/api.php' + +if __name__ == '__main__': + main() diff --git a/listsofwikis/neoseeker.com b/listsofwikis/neoseeker.com index 5258a8a..0d6ac00 100644 --- a/listsofwikis/neoseeker.com +++ b/listsofwikis/neoseeker.com @@ -1,158 +1,228 @@ -https://mtg.neoseeker.com/w/api.php -https://finalfantasy.neoseeker.com/w/api.php -https://pes.neoseeker.com/w/api.php -https://whiteknightchronicles.neoseeker.com/w/api.php -https://pokemon.neoseeker.com/w/api.php -https://layton.neoseeker.com/w/api.php -https://yugioh.neoseeker.com/w/api.php -https://mario.neoseeker.com/w/api.php -https://fallout.neoseeker.com/w/api.php -https://shenmue.neoseeker.com/w/api.php -https://stargate.neoseeker.com/w/api.php -https://animalcrossing.neoseeker.com/w/api.php -https://elderscrolls.neoseeker.com/w/api.php -https://theworldendswithyou.neoseeker.com/w/api.php -https://tales.neoseeker.com/w/api.php -https://fifa.neoseeker.com/w/api.php -https://footballmanager.neoseeker.com/w/api.php -https://digimon.neoseeker.com/w/api.php -https://fireemblem.neoseeker.com/w/api.php -https://uncharted.neoseeker.com/w/api.php -https://dragonball.neoseeker.com/w/api.php -https://zelda.neoseeker.com/w/api.php -https://monsterhunter.neoseeker.com/w/api.php -https://sonic.neoseeker.com/w/api.php -https://harvestmoon.neoseeker.com/w/api.php -https://callofduty.neoseeker.com/w/api.php -https://halo.neoseeker.com/w/api.php -https://gta.neoseeker.com/w/api.php -https://crossedge.neoseeker.com/w/api.php -https://smashbros.neoseeker.com/w/api.php -https://castlevania.neoseeker.com/w/api.php -https://megaman.neoseeker.com/w/api.php -https://goldensun.neoseeker.com/w/api.php -https://aceattorney.neoseeker.com/w/api.php -https://runescape.neoseeker.com/w/api.php -https://donkeykong.neoseeker.com/w/api.php -https://kingdomhearts.neoseeker.com/w/api.php -https://naruto.neoseeker.com/w/api.php -https://pikmin.neoseeker.com/w/api.php -https://batman.neoseeker.com/w/api.php -https://smackdown.neoseeker.com/w/api.php -https://harrypotter.neoseeker.com/w/api.php -https://metroid.neoseeker.com/w/api.php -https://southpark.neoseeker.com/w/api.php -https://masseffect.neoseeker.com/w/api.php -https://doctorwho.neoseeker.com/w/api.php -https://thesims.neoseeker.com/w/api.php -https://bleach.neoseeker.com/w/api.php -https://skyrim.neoseeker.com/w/api.php -https://minecraft.neoseeker.com/w/api.php -https://mother.neoseeker.com/w/api.php -https://needforspeed.neoseeker.com/w/api.php -https://dothack.neoseeker.com/w/api.php -https://cnc.neoseeker.com/w/api.php -https://banjokazooie.neoseeker.com/w/api.php -https://dynastywarriors.neoseeker.com/w/api.php -https://residentevil.neoseeker.com/w/api.php -https://familyguy.neoseeker.com/w/api.php -https://fable.neoseeker.com/w/api.php -https://glee.neoseeker.com/w/api.php -https://lotr.neoseeker.com/w/api.php -https://gundam.neoseeker.com/w/api.php -https://metalgear.neoseeker.com/w/api.php -https://boktai.neoseeker.com/w/api.php -https://guildwars.neoseeker.com/w/api.php -https://deathnote.neoseeker.com/w/api.php -https://simpsons.neoseeker.com/w/api.php -https://bond.neoseeker.com/w/api.php -https://ratchetclank.neoseeker.com/w/api.php -https://dragonquest.neoseeker.com/w/api.php -https://house.neoseeker.com/w/api.php -https://borderlands.neoseeker.com/w/api.php -https://crash.neoseeker.com/w/api.php -https://valkyriachronicles.neoseeker.com/w/api.php -https://inuyasha.neoseeker.com/w/api.php -https://granturismo.neoseeker.com/w/api.php -https://tekken.neoseeker.com/w/api.php -https://twilight.neoseeker.com/w/api.php -https://starwars.neoseeker.com/w/api.php -https://halflife.neoseeker.com/w/api.php -https://starcraft.neoseeker.com/w/api.php -https://castlecrashers.neoseeker.com/w/api.php -https://okami.neoseeker.com/w/api.php -https://soulcalibur.neoseeker.com/w/api.php -https://kirby.neoseeker.com/w/api.php -https://fzero.neoseeker.com/w/api.php -https://starfox.neoseeker.com/w/api.php -https://guitarhero.neoseeker.com/w/api.php -https://mortalkombat.neoseeker.com/w/api.php -https://dragonage.neoseeker.com/w/api.php -https://spongebob.neoseeker.com/w/api.php -https://jakdaxter.neoseeker.com/w/api.php -https://wow.neoseeker.com/w/api.php -https://devilmaycry.neoseeker.com/w/api.php -https://disgaea.neoseeker.com/w/api.php -https://maplestory.neoseeker.com/w/api.php -https://bioshock.neoseeker.com/w/api.php -https://battlefield.neoseeker.com/w/api.php -https://advancewars.neoseeker.com/w/api.php -https://hitman.neoseeker.com/w/api.php -https://spiderman.neoseeker.com/w/api.php -https://demonssouls.neoseeker.com/w/api.php -https://wikiguides.neoseeker.com/w/api.php -https://doujin.neoseeker.com/w/api.php -https://twistedmetal.neoseeker.com/w/api.php -https://gearsofwar.neoseeker.com/w/api.php -https://ninjagaiden.neoseeker.com/w/api.php -https://littlebigplanet.neoseeker.com/w/api.php -https://warhammer.neoseeker.com/w/api.php -https://godofwar.neoseeker.com/w/api.php -https://streetfighter.neoseeker.com/w/api.php -https://fairytail.neoseeker.com/w/api.php -https://chrono.neoseeker.com/w/api.php -https://breathoffire.neoseeker.com/w/api.php -https://resistance.neoseeker.com/w/api.php -https://skate.neoseeker.com/w/api.php -https://heavyrain.neoseeker.com/w/api.php -https://vivapinata.neoseeker.com/w/api.php -https://deadoralive.neoseeker.com/w/api.php -https://rockband.neoseeker.com/w/api.php -https://evangelion.neoseeker.com/w/api.php -https://endlessocean.neoseeker.com/w/api.php -https://scottpilgrim.neoseeker.com/w/api.php -https://princeofpersia.neoseeker.com/w/api.php -https://warcraft.neoseeker.com/w/api.php -https://reddead.neoseeker.com/w/api.php -https://fatalfury.neoseeker.com/w/api.php -https://alanwake.neoseeker.com/w/api.php -https://infamous.neoseeker.com/w/api.php -https://doom.neoseeker.com/w/api.php -https://spyro.neoseeker.com/w/api.php -https://tonyhawk.neoseeker.com/w/api.php -https://scrapmetal.neoseeker.com/w/api.php -https://rayman.neoseeker.com/w/api.php -https://mana.neoseeker.com/w/api.php -https://starocean.neoseeker.com/w/api.php -https://deadisland.neoseeker.com/w/api.php -https://brink.neoseeker.com/w/api.php -https://phantasystar.neoseeker.com/w/api.php -https://ghosttrick.neoseeker.com/w/api.php -https://mafia.neoseeker.com/w/api.php -https://suikoden.neoseeker.com/w/api.php -https://resonance.neoseeker.com/w/api.php -https://haruhi.neoseeker.com/w/api.php -https://lmamanager.neoseeker.com/w/api.php -https://timesplitters.neoseeker.com/w/api.php -https://bulletstorm.neoseeker.com/w/api.php -https://eveonline.neoseeker.com/w/api.php -https://koa.neoseeker.com/w/api.php -https://adventuretime.neoseeker.com/w/api.php -https://thesecretworld.neoseeker.com/w/api.php -https://rpgmaker.neoseeker.com/w/api.php -https://runesofmagic.neoseeker.com/w/api.php -https://alienbreed.neoseeker.com/w/api.php -https://mightandmagic.neoseeker.com/w/api.php -https://deusex.neoseeker.com/w/api.php -https://shank.neoseeker.com/w/api.php -https://forza.neoseeker.com/w/api.php +http://mtg.neoseeker.com/w/api.php +http://maplestory.neoseeker.com/w/api.php +http://finalfantasy.neoseeker.com/w/api.php +http://pes.neoseeker.com/w/api.php +http://whiteknightchronicles.neoseeker.com/w/api.php +http://pokemon.neoseeker.com/w/api.php +http://layton.neoseeker.com/w/api.php +http://yugioh.neoseeker.com/w/api.php +http://mario.neoseeker.com/w/api.php +http://fallout.neoseeker.com/w/api.php +http://shenmue.neoseeker.com/w/api.php +http://stargate.neoseeker.com/w/api.php +http://animalcrossing.neoseeker.com/w/api.php +http://tales.neoseeker.com/w/api.php +http://elderscrolls.neoseeker.com/w/api.php +http://theworldendswithyou.neoseeker.com/w/api.php +http://digimon.neoseeker.com/w/api.php +http://footballmanager.neoseeker.com/w/api.php +http://fifa.neoseeker.com/w/api.php +http://fireemblem.neoseeker.com/w/api.php +http://uncharted.neoseeker.com/w/api.php +http://dragonball.neoseeker.com/w/api.php +http://zelda.neoseeker.com/w/api.php +http://callofduty.neoseeker.com/w/api.php +http://halo.neoseeker.com/w/api.php +http://monsterhunter.neoseeker.com/w/api.php +http://gta.neoseeker.com/w/api.php +http://sonic.neoseeker.com/w/api.php +http://naruto.neoseeker.com/w/api.php +http://smashbros.neoseeker.com/w/api.php +http://gta5.neoseeker.com/w/api.php +http://crossedge.neoseeker.com/w/api.php +http://harvestmoon.neoseeker.com/w/api.php +http://runescape.neoseeker.com/w/api.php +http://megaman.neoseeker.com/w/api.php +http://castlevania.neoseeker.com/w/api.php +http://doctorwho.neoseeker.com/w/api.php +http://wikiguides.neoseeker.com/w/api.php +http://aceattorney.neoseeker.com/w/api.php +http://goldensun.neoseeker.com/w/api.php +http://legendofdragoon.neoseeker.com/w/api.php +http://donkeykong.neoseeker.com/w/api.php +http://okami.neoseeker.com/w/api.php +http://kingdomhearts.neoseeker.com/w/api.php +http://skyrim.neoseeker.com/w/api.php +http://pikmin.neoseeker.com/w/api.php +http://harrypotter.neoseeker.com/w/api.php +http://cnc.neoseeker.com/w/api.php +http://simpsons.neoseeker.com/w/api.php +http://batman.neoseeker.com/w/api.php +http://minecraft.neoseeker.com/w/api.php +http://guildwars.neoseeker.com/w/api.php +http://smackdown.neoseeker.com/w/api.php +http://needforspeed.neoseeker.com/w/api.php +http://metroid.neoseeker.com/w/api.php +http://ratchetclank.neoseeker.com/w/api.php +http://24.neoseeker.com/w/api.php +http://leagueoflegends.neoseeker.com/w/api.php +http://masseffect.neoseeker.com/w/api.php +http://fable.neoseeker.com/w/api.php +http://thesims.neoseeker.com/w/api.php +http://residentevil.neoseeker.com/w/api.php +http://dothack.neoseeker.com/w/api.php +http://southpark.neoseeker.com/w/api.php +http://bleach.neoseeker.com/w/api.php +http://destiny.neoseeker.com/w/api.php +http://dynastywarriors.neoseeker.com/w/api.php +http://mother.neoseeker.com/w/api.php +http://banjokazooie.neoseeker.com/w/api.php +http://dragonquest.neoseeker.com/w/api.php +http://growlanser.neoseeker.com/w/api.php +http://familyguy.neoseeker.com/w/api.php +http://heroesofruin.neoseeker.com/w/api.php +http://mylittlepony.neoseeker.com/w/api.php +http://thief.neoseeker.com/w/api.php +http://borderlands.neoseeker.com/w/api.php +http://glee.neoseeker.com/w/api.php +http://metalgear.neoseeker.com/w/api.php +http://lotr.neoseeker.com/w/api.php +http://crash.neoseeker.com/w/api.php +http://gundam.neoseeker.com/w/api.php +http://advancewars.neoseeker.com/w/api.php +http://bond.neoseeker.com/w/api.php +http://wakfu.neoseeker.com/w/api.php +http://boktai.neoseeker.com/w/api.php +http://deathnote.neoseeker.com/w/api.php +http://hearthstone.neoseeker.com/w/api.php +http://watchdogs.neoseeker.com/w/api.php +http://disgaea.neoseeker.com/w/api.php +http://house.neoseeker.com/w/api.php +http://bioshock.neoseeker.com/w/api.php +http://starwars.neoseeker.com/w/api.php +http://valkyriachronicles.neoseeker.com/w/api.php +http://wow.neoseeker.com/w/api.php +http://twilight.neoseeker.com/w/api.php +http://starcraft.neoseeker.com/w/api.php +http://inuyasha.neoseeker.com/w/api.php +http://castlecrashers.neoseeker.com/w/api.php +http://granturismo.neoseeker.com/w/api.php +http://demonssouls.neoseeker.com/w/api.php +http://avatar.neoseeker.com/w/api.php +http://halflife.neoseeker.com/w/api.php +http://tekken.neoseeker.com/w/api.php +http://spongebob.neoseeker.com/w/api.php +http://kirby.neoseeker.com/w/api.php +http://soulcalibur.neoseeker.com/w/api.php +http://fzero.neoseeker.com/w/api.php +http://guitarhero.neoseeker.com/w/api.php +http://jakdaxter.neoseeker.com/w/api.php +http://starfox.neoseeker.com/w/api.php +http://dragonage.neoseeker.com/w/api.php +http://mortalkombat.neoseeker.com/w/api.php +http://devilmaycry.neoseeker.com/w/api.php +http://gearsofwar.neoseeker.com/w/api.php +http://hitman.neoseeker.com/w/api.php +http://kidicarus.neoseeker.com/w/api.php +http://battlefield.neoseeker.com/w/api.php +http://futurama.neoseeker.com/w/api.php +http://ninjagaiden.neoseeker.com/w/api.php +http://thewarriors.neoseeker.com/w/api.php +http://doujin.neoseeker.com/w/api.php +http://godofwar.neoseeker.com/w/api.php +http://skylanders.neoseeker.com/w/api.php +http://spiderman.neoseeker.com/w/api.php +http://twistedmetal.neoseeker.com/w/api.php +http://danganronpa.neoseeker.com/w/api.php +http://littlebigplanet.neoseeker.com/w/api.php +http://streetfighter.neoseeker.com/w/api.php +http://warhammer.neoseeker.com/w/api.php +http://hungergames.neoseeker.com/w/api.php +http://fairytail.neoseeker.com/w/api.php +http://chrono.neoseeker.com/w/api.php +http://skate.neoseeker.com/w/api.php +http://resistance.neoseeker.com/w/api.php +http://banished.neoseeker.com/w/api.php +http://breathoffire.neoseeker.com/w/api.php +http://heavyrain.neoseeker.com/w/api.php +http://sandbox.neoseeker.com/w/api.php +http://vivapinata.neoseeker.com/w/api.php +http://darksouls.neoseeker.com/w/api.php +http://reborn.neoseeker.com/w/api.php +http://doom.neoseeker.com/w/api.php +http://cubeworld.neoseeker.com/w/api.php +http://rockband.neoseeker.com/w/api.php +http://fullmetalalchemist.neoseeker.com/w/api.php +http://formula1.neoseeker.com/w/api.php +http://deadoralive.neoseeker.com/w/api.php +http://tonyhawk.neoseeker.com/w/api.php +http://evangelion.neoseeker.com/w/api.php +http://ninokuni.neoseeker.com/w/api.php +http://shadowrunreturns.neoseeker.com/w/api.php +http://endlessocean.neoseeker.com/w/api.php +http://terraria.neoseeker.com/w/api.php +http://persona.neoseeker.com/w/api.php +http://rayman.neoseeker.com/w/api.php +http://warcraft.neoseeker.com/w/api.php +http://scottpilgrim.neoseeker.com/w/api.php +http://boundbyflame.neoseeker.com/w/api.php +http://princeofpersia.neoseeker.com/w/api.php +http://childoflight.neoseeker.com/w/api.php +http://kairosoft.neoseeker.com/w/api.php +http://reddead.neoseeker.com/w/api.php +http://scribblenauts.neoseeker.com/w/api.php +http://shadowofthecolossus.neoseeker.com/w/api.php +http://fatalfury.neoseeker.com/w/api.php +http://attackontitan.neoseeker.com/w/api.php +http://spyro.neoseeker.com/w/api.php +http://alanwake.neoseeker.com/w/api.php +http://inheritance.neoseeker.com/w/api.php +http://friends.neoseeker.com/w/api.php +http://infamous.neoseeker.com/w/api.php +http://kingdomcome.neoseeker.com/w/api.php +http://koa.neoseeker.com/w/api.php +http://theorder.neoseeker.com/w/api.php +http://diablo3.neoseeker.com/w/api.php +http://megamitensei.neoseeker.com/w/api.php +http://runefactory.neoseeker.com/w/api.php +http://xenoblade.neoseeker.com/w/api.php +http://guildwars2.neoseeker.com/w/api.php +http://knack.neoseeker.com/w/api.php +http://scrapmetal.neoseeker.com/w/api.php +http://deadisland.neoseeker.com/w/api.php +http://mana.neoseeker.com/w/api.php +http://ncis.neoseeker.com/w/api.php +http://cowboybebop.neoseeker.com/w/api.php +http://starocean.neoseeker.com/w/api.php +http://supernatural.neoseeker.com/w/api.php +http://toriko.neoseeker.com/w/api.php +http://dragonsdogma.neoseeker.com/w/api.php +http://resonance.neoseeker.com/w/api.php +http://torchlight2.neoseeker.com/w/api.php +http://brink.neoseeker.com/w/api.php +http://ghosttrick.neoseeker.com/w/api.php +http://mafia.neoseeker.com/w/api.php +http://phantasystar.neoseeker.com/w/api.php +http://slycooper.neoseeker.com/w/api.php +http://thedivision.neoseeker.com/w/api.php +http://suikoden.neoseeker.com/w/api.php +http://deadspace.neoseeker.com/w/api.php +http://haruhi.neoseeker.com/w/api.php +http://thedarkness.neoseeker.com/w/api.php +http://thesecretworld.neoseeker.com/w/api.php +http://bulletstorm.neoseeker.com/w/api.php +http://eveonline.neoseeker.com/w/api.php +http://farcry.neoseeker.com/w/api.php +http://lmamanager.neoseeker.com/w/api.php +http://lordsofthefallen.neoseeker.com/w/api.php +http://magicalstarsign.neoseeker.com/w/api.php +http://onepiece.neoseeker.com/w/api.php +http://thelastofus.neoseeker.com/w/api.php +http://timesplitters.neoseeker.com/w/api.php +http://transformers.neoseeker.com/w/api.php +http://adventuretime.neoseeker.com/w/api.php +http://rpgmaker.neoseeker.com/w/api.php +http://runesofmagic.neoseeker.com/w/api.php +http://nintendogs.neoseeker.com/w/api.php +http://clannad.neoseeker.com/w/api.php +http://forza.neoseeker.com/w/api.php +http://souleater.neoseeker.com/w/api.php +http://alienbreed.neoseeker.com/w/api.php +http://deusex.neoseeker.com/w/api.php +http://greysanatomy.neoseeker.com/w/api.php +http://mightandmagic.neoseeker.com/w/api.php +http://starbound.neoseeker.com/w/api.php +http://wasteland2.neoseeker.com/w/api.php +http://shank.neoseeker.com/w/api.php +http://witcher3.neoseeker.com/w/api.php +http://worldoftanks.neoseeker.com/w/api.php diff --git a/listsofwikis/neoseeker.com.info b/listsofwikis/neoseeker.com.info new file mode 100644 index 0000000..4b39a4c --- /dev/null +++ b/listsofwikis/neoseeker.com.info @@ -0,0 +1,8 @@ +Wikifarm: http://neowiki.neoseeker.com/wiki/Main_Page +Last update: 2014-07-02 + +Details: + +There is a dynamic list http://neowiki.neoseeker.com/wiki/Special:WikiList + +Run script: python neoseeker-spider.py > newlist