frxz751113/iptv
1
0
Fork 0
Code Issues Pull Requests Packages Projects Releases Wiki Activity

Update 网络收集.py

Browse Source
This commit is contained in:
frxz751113
2024-09-19 17:51:29 +08:00
committed by GitHub
parent c3697b4328
commit c6c6ac6d47
1 changed files with 51 additions and 58 deletions
Download Patch File Download Diff File Expand all files Collapse all files
py/网络收集.py
+51 -58
View File
@@ -52,7 +52,7 @@ urls = [
'https://raw.githubusercontent.com/junge3333/juds6/main/yszb1.txt', 'https://raw.githubusercontent.com/junge3333/juds6/main/yszb1.txt',
'https://raw.githubusercontent.com/zzmaze/iptv/main/iptv.txt', 'https://raw.githubusercontent.com/zzmaze/iptv/main/iptv.txt',
'https://raw.githubusercontent.com/xxoo-qx/IPTV/main/LIVE.txt', 'https://raw.githubusercontent.com/xxoo-qx/IPTV/main/LIVE.txt',
'https://raw.githubusercontent.com/frxz751113/AAAAA/main/IPTV/TW.txt', '',
'', '',
'', '',
'', '',
@@ -84,7 +84,7 @@ def merge_txt_files(urls, output_filename='汇总.txt'):
try: try:
response = requests.get(url) response = requests.get(url)
response.raise_for_status() # 确保请求成功 response.raise_for_status() # 确保请求成功
# 尝试将响应内容解码为UTF-8,如果失败则尝试其他编码 # 尝试将响应内容解码为UTF-8，如果失败则尝试其他编码
try: try:
content = response.content.decode('utf-8') content = response.content.decode('utf-8')
except UnicodeDecodeError: except UnicodeDecodeError:
@@ -267,14 +267,14 @@ with open('汇总.txt', 'w', encoding='utf-8') as new_file:
for line in lines: for line in lines:
# 去除行尾的换行符 # 去除行尾的换行符
line = line.rstrip('\n') line = line.rstrip('\n')
# 分割行,获取逗号前的字符串 # 分割行，获取逗号前的字符串
parts = line.split(',', 1) parts = line.split(',', 1)
if len(parts) > 0: if len(parts) > 0:
# 替换逗号前的字符串 # 替换逗号前的字符串
before_comma = parts[0] before_comma = parts[0]
for old, new in replacements.items(): for old, new in replacements.items():
before_comma = before_comma.replace(old, new) before_comma = before_comma.replace(old, new)
# 将替换后的逗号前部分和逗号后部分重新组合成一行,并写入新文件 # 将替换后的逗号前部分和逗号后部分重新组合成一行，并写入新文件
new_line = f'{before_comma},{parts[1]}\n' if len(parts) > 1 else f'{before_comma}\n' new_line = f'{before_comma},{parts[1]}\n' if len(parts) > 1 else f'{before_comma}\n'
new_file.write(new_line) new_file.write(new_line)
@@ -326,7 +326,7 @@ def remove_duplicates(input_file, output_file):
if urls and urls[0] not in seen_urls: if urls and urls[0] not in seen_urls:
seen_urls.add(urls[0]) seen_urls.add(urls[0])
output_lines.append(line) output_lines.append(line)
# 如果找到包含genre的行,无论是否已被记录,都写入新文件 # 如果找到包含genre的行，无论是否已被记录，都写入新文件
if genre_line: if genre_line:
output_lines.append(line) output_lines.append(line)
# 将结果写入输出文件 # 将结果写入输出文件
@@ -345,88 +345,77 @@ remove_duplicates('汇总.txt', '2.txt')
import re import re
import os import os
# 定义一个包含所有要排除的关键词的列表 # 定义一个包含所有要排除的关键词的列表
excluded_keywords = ['epg', 'mitv', 'udp', 'rtp', 'P2p', 'p2p', 'p3p', 'P2P', '新闻综合', 'P3p', 'jdshipin', '9930/qilu', 'gitcode.net', '151:99', '21dtv', '8.137', 'txmov2', \ excluded_keywords = [
'gcw.bdcdn', 'metshop', 'shandong', 'goodiptv', '购物', '[', 'P3P', '腔', '曲', '//1', '/hls/', '春节', 'free', 'ts138', 'hlspull', '95.179', 'gat', 'ali' 'epg', 'mitv', 'udp', 'rtp', 'P2p', 'p2p', 'p3p', 'P2P', '新闻综合', 'P3p', 'jdshipin', '9930/qilu', 'gitcode.net', '151:99', '21dtv', 'txmov2', 'gcw.bdcdn', 'metshop', 'shandong', 'goodiptv', '购物', '[', 'P3P', '腔', '曲', '//1', '/hls/', '春节'
# 在这里添加需要排除的关键词 # 在这里添加需要排除的关键词
] ]
# 定义一个包含所有要提取的关键词的列表 # 定义一个包含所有要提取的关键词的列表
keywords = ['1905', '凤凰卫视', '人间卫视', '亚洲卫视', '香港卫视', '神乐', '翡翠台', '凤凰香港', '凤凰中文', '凤凰资讯', 'AXN', 'AMC', '香蕉', '电影台', '大爱', '东森', 'MTV', extract_keywords = ['1905', '凤凰卫视', '人间卫视', '亚洲卫视', '香港卫视', '神乐', '翡翠台', '凤凰香港', '凤凰中文', '凤凰资讯', 'AXN', 'AMC', '香蕉', '电影台', '大爱', '东森', 'MTV',
'华视', '中天', '天良', '翡翠台', '美亚', '星影', '纬来', '天映', '无线', '华剧台', '华丽台', '剧台', 'Movie', '八大', '采昌', '靖天', '美亚', '民視', '探索', '旅游', '影视2', '华视', '中天', '天良', '翡翠台', '美亚', '星影', '纬来', '天映', '无线', '华剧台', '华丽台', '剧台', 'Movie', '八大', '采昌', '靖天', '美亚', '民視', '探索', '旅游', '影视2',
'影视3', '中视', '豬哥亮', 'TVB', '东森', '公视', '华视', '寰宇', '戏剧', '靖', '龙华', '龙祥', '民视', '三立', '中视', '猪哥亮', '综艺', '新闻', '影迷', '影剧', '电视剧', '49号', '影视3', '中视', '豬哥亮', 'TVB', '东森', '公视', '华视', '寰宇', '戏剧', '靖', '龙华', '龙祥', '民视', '三立', '中视', '猪哥亮', '综艺', '新闻', '影迷', '影剧', '电视剧'
'AMC电影台', 'BLOOM', 'CINEM', 'CMUSIC音乐台', 'CNBC', 'DWNEWS', 'Dbox', 'ELTV', 'FEST', 'GOOD2', 'HISTORY', 'HITS', 'HakkaTV', 'KOREA', 'LIFETIME', 'LISTENONSPOTIFY', 'LOVENATURE',
'LUXE', 'MCE', 'MTV', 'Nickelodeon', 'PETCLUB', 'ROCK', 'ROCKACTION', 'TECHSTORM', 'TV5MONDE', 'TVBS', 'TiTV', 'VOA', 'elta', 'hokkotv', 'momo', 'nhkworld', 'nickjr', '三立', '东森',
'中华小当家', '中天娱乐', '中视', '互动英语', '亚洲卫视', '亚洲旅游', '人间卫视', '全球财经', '八大', '公视戏剧', '凤凰', '动漫', '动漫', '动漫2', '动漫2', '动物星球', '动画台', '华视', '博斯',
'哆啦A梦', '壹新闻', '大立电视', '天良综合台', '寰宇', '幸福空间', '影剧', '影迷', '影迷', '探案', '探索亚洲', '旅游', '智林体育', '東森新聞', '民视', '猪哥亮', '猪哥亮', '环球电视',
'电视剧', '纬来', '综艺', '美亚C+', '翡翠台', '超人', '镜新闻', '龙华', '番薯'
# 在这里添加需要提取的关键词 # 在这里添加需要提取的关键词
] ]
# 读取文件并处理每一行 # 读取文件并处理每一行
# 将排除关键词列表转换为正则表达式模式 with open('2.txt', 'r', encoding='utf-8') as file:
excluded_pattern = '|'.join(excluded_keywords) lines = file.readlines()
# 将关键词列表转换为正则表达式模式
pattern = '|'.join(keywords) # 创建或打开一个输出文件用于写入处理后的数据
with open('2.txt', 'r', encoding='utf-8') as file, open('2.txt', 'w', encoding='utf-8') as a: with open('2.txt', 'w', encoding='utf-8') as outfile:
#a.write('央视频道,#genre#\n') for line in lines:
for line in file: # 首先检查行是否包含任何提取关键词
if 'genre' not in line: if any(keyword in line for keyword in extract_keywords):
# 使用正则表达式检查该行是否不包含任何排除关键词 # 如果包含提取关键词，进一步检查行是否不包含任何排除关键词
if not re.search(excluded_pattern, line): if not any(keyword in line for keyword in excluded_keywords):
# 如果行中有任意关键字 outfile.write(line) # 写入符合条件的行到文件
if re.search(pattern, line):
a.write(line)
############################################################### ###############################################################
import re import re
def parse_file(input_file_path, output_file_name): def parse_file(input_file_path, output_file_name):
# 正则表达式匹配从'//'开始到第一个'/'或第一个'::'结束的部分 # 正则表达式匹配从'//'开始到第一个'/'或第一个'::'结束的部分
ip_or_domain_pattern = re.compile(r'//([^/:]*:[^/:]*::[^/:]*|[^/]*)') ip_or_domain_pattern = re.compile(r'//([^/:]*:[^/:]*::[^/:]*|[^/]*)')
# 用于存储每个 IP 或域名及其对应的行列表 # 用于存储每个IP或域名及其对应的行列表
ip_or_domain_to_lines = {} ip_or_domain_to_lines = {}
# 读取原始文件内容 # 读取原始文件内容
with open(input_file_path, 'r', encoding='utf-8') as file: with open(input_file_path, 'r', encoding='utf-8') as file:
for line in file: for line in file:
line = line.strip() line = line.strip()
# 如果行是分类标签行,则跳过 # 如果行是分类标签行，则跳过
if ",#genre#" in line: if ",#genre#" in line:
continue continue
# 检查行是否包含 IP 或域名 # 检查行是否包含IP或域名
match = ip_or_domain_pattern.search(line) match = ip_or_domain_pattern.search(line)
if match: if match:
# 提取匹配到的 IP 或域名 # 提取匹配到的IP或域名
matched_text = match.group(1) matched_text = match.group(1)
# 去除 IP 或域名后的剩余部分,只保留匹配到的 IP 或域名 # 去除IP或域名后的剩余部分，只保留匹配到的IP或域名
ip_or_domain = matched_text.split('://')[-1].split('/')[0].split('::')[0] ip_or_domain = matched_text.split('://')[-1].split('/')[0].split('::')[0]
# 将行添加到对应的 IP 或域名列表中 # 将行添加到对应的IP或域名列表中
if ip_or_domain not in ip_or_domain_to_lines: if ip_or_domain not in ip_or_domain_to_lines:
ip_or_domain_to_lines[ip_or_domain] = [] ip_or_domain_to_lines[ip_or_domain] = []
ip_or_domain_to_lines[ip_or_domain].append(line) ip_or_domain_to_lines[ip_or_domain].append(line)
############################################################################### 过滤掉小于 1500 字节的 IP 或域名段 ############################################################################### 过滤掉小于1500字节的IP或域名段
filtered_ip_or_domain_to_lines = {ip_or_domain: lines for ip_or_domain, lines in ip_or_domain_to_lines.items() filtered_ip_or_domain_to_lines = {ip_or_domain: lines for ip_or_domain, lines in ip_or_domain_to_lines.items()
if sum(len(line) for line in lines) >= 300} if sum(len(line) for line in lines) >= 1000}
# 如果没有满足条件的 IP 或域名段,则不生成文件 # 如果没有满足条件的IP或域名段，则不生成文件
if not filtered_ip_or_domain_to_lines: if not filtered_ip_or_domain_to_lines:
print("没有满足条件的 IP 或域名段,不生成文件。") print("没有满足条件的IP或域名段，不生成文件。")
return return
# 合并所有满足条件的 IP 或域名的行到一个文件 # 合并所有满足条件的IP或域名的行到一个文件
with open(output_file_name, 'w', encoding='utf-8') as output_file: with open(output_file_name, 'w', encoding='utf-8') as output_file:
for ip_or_domain, lines in filtered_ip_or_domain_to_lines.items(): for ip_or_domain, lines in filtered_ip_or_domain_to_lines.items():
# 写入 IP 或域名及其对应的行到输出文件 # 写入IP或域名及其对应的行到输出文件
output_file.write(f"频道,#genre#\n") output_file.write(f"频道,#genre#\n")
for line in lines: for line in lines:
output_file.write(line + '\n') output_file.write(line + '\n')
output_file.write('\n') # 在每个小段后添加一个空行作为分隔 output_file.write('\n') # 在每个小段后添加一个空行作为分隔
line_count = sum(len(lines) for lines in filtered_ip_or_domain_to_lines.values())
print(f"过滤文件完成，一共有 {line_count} 行数据。")
# 调用函数并传入文件路径和输出文件名 # 调用函数并传入文件路径和输出文件名
parse_file('2.txt', '2.txt') parse_file('2.txt', '2.txt')
import cv2 import cv2
import time import time
from tqdm import tqdm from tqdm import tqdm
@@ -437,7 +426,7 @@ file_path = "2.txt"
output_file_path = "网络收集.txt" output_file_path = "网络收集.txt"
def get_ip_key(url): def get_ip_key(url):
"""从 URL 中提取 IP 地址,并构造一个唯一的键""" """从 URL 中提取 IP 地址，并构造一个唯一的键"""
start = url.find('://') + 3 start = url.find('://') + 3
end = url.find('/', start) end = url.find('/', start)
return url[start:end] if end!= -1 else None return url[start:end] if end!= -1 else None
@@ -478,6 +467,7 @@ def merge_and_filter():
output_file.write(line) output_file.write(line)
else: else:
detected_ips[ip_key] = {'status': 'fail'} detected_ips[ip_key] = {'status': 'fail'}
# 合并任意字符加上网络收集.txt 的文件 # 合并任意字符加上网络收集.txt 的文件
all_files = [f for f in os.listdir(os.getcwd()) if f.endswith('网络收集.txt')] all_files = [f for f in os.listdir(os.getcwd()) if f.endswith('网络收集.txt')]
with open(output_file_path, 'a', encoding='utf-8') as main_output: with open(output_file_path, 'a', encoding='utf-8') as main_output:
@@ -602,17 +592,20 @@ if __name__ == "__main__":
import re import re
from pypinyin import lazy_pinyin from pypinyin import lazy_pinyin
# 打开一个utf-8编码的文本文件 # 打开一个utf-8编码的文本文件
with open("网络收集.txt", "r", encoding="utf-8") as file: with open("网络收集.txt", "r", encoding="utf-8") as file:
# 读取所有行并存储到列表中 # 读取所有行并存储到列表中
lines = file.readlines() lines = file.readlines()
# 定义一个函数,用于提取每行的第一个数字 # 定义一个函数，用于提取每行的第一个数字
def extract_first_number(line): def extract_first_number(line):
match = re.search(r'\d+', line) match = re.search(r'\d+', line)
return int(match.group()) if match else float('inf') return int(match.group()) if match else float('inf')
# 对列表中的行进行排序,按照第一个数字的大小排列,其余行按中文排序 # 对列表中的行进行排序，按照第一个数字的大小排列，其余行按中文排序
sorted_lines = sorted(lines, key=lambda x: (not 'CCTV' in x, extract_first_number(x) if 'CCTV' in x else lazy_pinyin(x.strip()))) sorted_lines = sorted(lines, key=lambda x: (not 'CCTV' in x, extract_first_number(x) if 'CCTV' in x else lazy_pinyin(x.strip())))
# 将排序后的行写入新的utf-8编码的文本文件 # 将排序后的行写入新的utf-8编码的文本文件
with open("网络收集.txt", "w", encoding="utf-8") as file: with open("网络收集.txt", "w", encoding="utf-8") as file:
@@ -628,13 +621,13 @@ def parse_file(input_file_path, output_file_name): #
# 用于存储每个IP或域名及其对应的行列表 # 用于存储每个IP或域名及其对应的行列表
ip_or_domain_to_lines = {} ip_or_domain_to_lines = {}
# 用于生成分类名的字母和数字计数器 # 用于生成分类名的字母和数字计数器
alphabet_counter = 0 # 字母计数器,从0开始 alphabet_counter = 0 # 字母计数器，从0开始
number_counter = 1 # 数字计数器,从1开始 number_counter = 1 # 数字计数器，从1开始
# 读取原始文件内容 # 读取原始文件内容
with open(input_file_path, 'r', encoding='utf-8') as file: with open(input_file_path, 'r', encoding='utf-8') as file:
for line in file: for line in file:
line = line.strip() line = line.strip()
# 如果行是分类标签行,则跳过 # 如果行是分类标签行，则跳过
if ",#genre#" in line: if ",#genre#" in line:
continue continue
# 检查行是否包含IP或域名 # 检查行是否包含IP或域名
@@ -642,7 +635,7 @@ def parse_file(input_file_path, output_file_name): #
if match: if match:
# 提取匹配到的IP或域名 # 提取匹配到的IP或域名
matched_text = match.group(1) matched_text = match.group(1)
# 去除IP或域名后的剩余部分,只保留匹配到的IP或域名 # 去除IP或域名后的剩余部分，只保留匹配到的IP或域名
ip_or_domain = matched_text.split('://')[-1].split('/')[0].split('::')[0] ip_or_domain = matched_text.split('://')[-1].split('/')[0].split('::')[0]
# 将行添加到对应的IP或域名列表中 # 将行添加到对应的IP或域名列表中
if ip_or_domain not in ip_or_domain_to_lines: if ip_or_domain not in ip_or_domain_to_lines:
@@ -650,10 +643,10 @@ def parse_file(input_file_path, output_file_name): #
ip_or_domain_to_lines[ip_or_domain].append(line) ip_or_domain_to_lines[ip_or_domain].append(line)
# 过滤掉小于1000字节的IP或域名段 # 过滤掉小于1000字节的IP或域名段
filtered_ip_or_domain_to_lines = {ip_or_domain: lines for ip_or_domain, lines in ip_or_domain_to_lines.items() filtered_ip_or_domain_to_lines = {ip_or_domain: lines for ip_or_domain, lines in ip_or_domain_to_lines.items()
if sum(len(line) for line in lines) >= 200} # 过滤掉小于1000字节的IP或域名段 if sum(len(line) for line in lines) >= 800} # 过滤掉小于1000字节的IP或域名段
# 如果没有满足条件的IP或域名段,则不生成文件 # 如果没有满足条件的IP或域名段，则不生成文件
if not filtered_ip_or_domain_to_lines: if not filtered_ip_or_domain_to_lines:
print("没有满足条件的IP或域名段,不生成文件。") print("没有满足条件的IP或域名段，不生成文件。")
return return
# 合并所有满足条件的IP或域名的行到一个文件 # 合并所有满足条件的IP或域名的行到一个文件
with open(output_file_name, 'w', encoding='utf-8') as output_file: #output_ with open(output_file_name, 'w', encoding='utf-8') as output_file: #output_
@@ -684,11 +677,11 @@ with open(file_path, 'r+', encoding='utf-8') as f:
f.write(f'{current_time}更新,#genre#\n') f.write(f'{current_time}更新,#genre#\n')
f.write(f'虚情的爱,https://vd2.bdstatic.com/mda-mi1dd05gmhwejdwn/sc/cae_h264/1630576203346678103/mda-mi1dd05gmhwejdwn.mp4\n{content}') f.write(f'虚情的爱,https://vd2.bdstatic.com/mda-mi1dd05gmhwejdwn/sc/cae_h264/1630576203346678103/mda-mi1dd05gmhwejdwn.mp4\n{content}')
################################################################################################任务结束,删除不必要的过程文件 ################################################################################################任务结束，删除不必要的过程文件
files_to_remove = ["2.txt", "汇总.txt"] files_to_remove = ["2.txt", "汇总.txt"]
for file in files_to_remove: for file in files_to_remove:
if os.path.exists(file): if os.path.exists(file):
os.remove(file) os.remove(file)
else: # 如果文件不存在,则提示异常并打印提示信息 else: # 如果文件不存在，则提示异常并打印提示信息
print(f"文件 {file} 不存在,跳过删除。") print(f"文件 {file} 不存在，跳过删除。")
print("任务运行完毕,频道列表可查看文件夹内源.txt文件！") print("任务运行完毕，频道列表可查看文件夹内源.txt文件！")