diff --git a/py/iptv流畅度检测.py b/py/iptv流畅度检测.py new file mode 100644 index 0000000..56838ce --- /dev/null +++ b/py/iptv流畅度检测.py @@ -0,0 +1,717 @@ +#本程序只适用于酒店源的检测,请勿移植他用 +import time +import concurrent.futures +from selenium import webdriver +from selenium.webdriver.chrome.options import Options +from concurrent.futures import ThreadPoolExecutor +import requests +import re +import os +import threading +from queue import Queue +import queue +from datetime import datetime +import replace +import fileinput +from tqdm import tqdm +from pypinyin import lazy_pinyin +from opencc import OpenCC +import base64 +import cv2 +from bs4 import BeautifulSoup +from urllib.parse import urlparse +from translate import Translator # 导入Translator类,用于文本翻译 + +###################################################################################################################### +# 获取rtp目录下的文件名,组播IP采集 +files = os.listdir('rtp') +files_name = [] +# 去除后缀名并保存至provinces_isps +for file in files: + name, extension = os.path.splitext(file) + files_name.append(name) +#忽略不符合要求的文件名 +provinces_isps = [name for name in files_name if name.count('_') == 1] +print(f"本次查询:{provinces_isps}的组播节目") +keywords = [] +for province_isp in provinces_isps: + # 读取文件并删除空白行 + try: + with open(f'rtp/{province_isp}.txt', 'r', encoding='utf-8') as file: + lines = file.readlines() + lines = [line.strip() for line in lines if line.strip()] + # 获取第二行中以包含 "rtp://" 的值作为 mcast + if lines: + first_line = lines[1] + if "rtp://" in first_line: + mcast = first_line.split("rtp://")[1].split(" ")[0] + keywords.append(province_isp + "_" + mcast) + except FileNotFoundError: + # 如果文件不存在,则捕获 FileNotFoundError 异常并打印提示信息 + print(f"文件 '{province_isp}.txt' 不存在. 跳过此文件.") +for keyword in keywords: + province, isp, mcast = keyword.split("_") + #将省份转成英文小写 + # 根据不同的 isp 设置不同的 org 值 + if province == "北京" and isp == "联通": + isp_en = "cucc" + org = "China Unicom Beijing Province Network" + elif isp == "联通": + isp_en = "cucc" + org = "CHINA UNICOM China169 Backbone" + elif isp == "电信": + org = "Chinanet" + isp_en = "ctcc" + elif isp == "移动": + org == "China Mobile communications corporation" + isp_en = "cmcc" + + current_time = datetime.now() + timeout_cnt = 0 + result_urls = set() + while len(result_urls) == 0 and timeout_cnt <= 5: + try: + search_url = 'https://fofa.info/result?qbase64=' + search_txt = f'\"udpxy\" && country=\"CN\" && region=\"{province}\"' # && org=\"{org}\" + # 将字符串编码为字节流 + bytes_string = search_txt.encode('utf-8') + # 使用 base64 进行编码 + search_txt = base64.b64encode(bytes_string).decode('utf-8') + search_url += search_txt + print(f"{current_time} 查询运营商 : {province}{isp} ,查询网址 : {search_url}") + response = requests.get(search_url, timeout=5) + # 处理响应 + response.raise_for_status() + # 检查请求是否成功 + html_content = response.text + # 使用BeautifulSoup解析网页内容 + html_soup = BeautifulSoup(html_content, "html.parser") + # print(f"{current_time} html_content:{html_content}") + # 查找所有符合指定格式的网址 + # 设置匹配的格式,如http://8.8.8.8:8888 + pattern = r"http://\d{1,3}\.\d{1,3}\.\d{1,3}\.\d{1,3}:\d+" + urls_all = re.findall(pattern, html_content) + # 去重得到唯一的URL列表 + result_urls = set(urls_all) + print(f"{current_time} result_urls:{result_urls}") + valid_ips = [] + # 遍历所有视频链接 + for url in result_urls: + video_url = url + "/rtp/" + mcast + # 用OpenCV读取视频 + cap = cv2.VideoCapture(video_url) + # 检查视频是否成功打开 + if not cap.isOpened(): + print(f"{current_time} {video_url} 无效") + else: + # 读取视频的宽度和高度 + width = int(cap.get(cv2.CAP_PROP_FRAME_WIDTH)) + height = int(cap.get(cv2.CAP_PROP_FRAME_HEIGHT)) + print(f"{current_time} {video_url} 的分辨率为 {width}x{height}") + # 检查分辨率是否大于0 + if width > 0 and height > 0: + valid_ips.append(url) + # 关闭视频流 + cap.release() + + if valid_ips: + #生成节目列表 省份运营商.txt + rtp_filename = f'rtp/{province}_{isp}.txt' + with open(rtp_filename, 'r', encoding='utf-8') as file: + data = file.read() + txt_filename = f'playlist/{province}{isp}.txt' + with open(txt_filename, 'w') as new_file: + for url in valid_ips: + new_data = data.replace("rtp://", f"{url}/rtp/") + new_file.write(new_data) + print(f'已生成播放列表,保存至{txt_filename}') + except (requests.Timeout, requests.RequestException) as e: + timeout_cnt += 1 + print(f"{current_time} [{province}]搜索请求发生超时,异常次数:{timeout_cnt}") + if timeout_cnt <= 2: + # 继续下一次循环迭代 + continue + else: + print(f"{current_time} 搜索IPTV频道源[],超时次数过多:{timeout_cnt} 次,停止处理") +print('节目表制作完成! 文件输出在当前文件夹!') +###################################################################################################################### +###################################################################################################################### +###################################################################################################################### +###################################################################################################################### +###################################################################################################################### +# 合并自定义频道文件,综合源整理 +file_contents = [] +file_paths = ["playlist/四川电信.txt", "playlist/河南电信.txt", "playlist/河北电信.txt"] # 替换为实际的文件路径列表 +for file_path in file_paths: + if os.path.exists(file_path): + with open(file_path, 'r', encoding="utf-8") as file: + content = file.read() + file_contents.append(content) + else: # 如果文件不存在,则提示异常并打印提示信息 + print(f"文件 {file_path} 不存在,跳过") +# 写入合并后的文件 +with open("组播源.txt", "w", encoding="utf-8") as output: + output.write('\n'.join(file_contents)) +for line in fileinput.input("组播源.txt", inplace=True): #打开文件,并对其进行关键词原地替换 + line = line.replace("CHC电影", "CHC影迷电影") + line = line.replace("高清电影", "影迷电影") + print(line, end="") #设置end="",避免输出多余的换行符 +#从整理好的文本中按类别进行特定关键词提取# +keywords = ['CHC', '峨眉', '华语', '星光院线', '剧场', '家庭', '影迷', '动作', '星空', '凤凰'] # 需要提取的关键字列表 +pattern = '|'.join(keywords) # 创建正则表达式模式,匹配任意一个关键字 +#pattern = r"^(.*?),(?!#genre#)(.*?)$" #以分类直接复制 +with open('组播源.txt', 'r', encoding='utf-8') as file, open('c2.txt', 'w', encoding='utf-8') as c2: #定义临时文件名 + c2.write('\n组播剧场,#genre#\n') #写入临时文件名$GD + for line in file: + if '$GD' not in line and '调解' not in line: + if re.search(pattern, line): # 如果行中有任意关键字 + c2.write(line) # 将该行写入输出文件 #定义临时文件 +#从整理好的文本中按类别进行特定关键词提取# +keywords = ['爱动漫', '爱怀旧', '爱经典', '爱科幻', '爱幼教', '爱青春', '爱院线', '爱悬疑'] # 需要提取的关键字列表 +pattern = '|'.join(keywords) # 创建正则表达式模式,匹配任意一个关键字 +#pattern = r"^(.*?),(?!#genre#)(.*?)$" #以分类直接复制 +with open('组播源.txt', 'r', encoding='utf-8') as file, open('c1.txt', 'w', encoding='utf-8') as c1: #定义临时文件名 + c1.write('\niHOT系列,#genre#\n') #写入临时文件名$GD + for line in file: + if '$GD' not in line and '4K' not in line: + if re.search(pattern, line): # 如果行中有任意关键字 + c1.write(line) # 将该行写入输出文件 #定义临时文件 + +#从整理好的文本中按类别进行特定关键词提取# +keywords = ['4K', '8K'] # 需要提取的关键字列表 +pattern = '|'.join(keywords) # 创建正则表达式模式,匹配任意一个关键字 +#pattern = r"^(.*?),(?!#genre#)(.*?)$" #以分类直接复制 +with open('组播源.txt', 'r', encoding='utf-8') as file, open('DD.txt', 'w', encoding='utf-8') as DD: + DD.write('\n4K 频道,#genre#\n') + for line in file: + if re.search(pattern, line): # 如果行中有任意关键字 + DD.write(line) # 将该行写入输出文件 +keywords = ['湖南', '广东', '广州', '河南', '河北'] # 需要提取的关键字列表 +pattern = '|'.join(keywords) # 创建正则表达式模式,匹配任意一个关键字 +#pattern = r"^(.*?),(?!#genre#)(.*?)$" #以分类直接复制 +with open('组播源.txt', 'r', encoding='utf-8') as file, open('df1.txt', 'w', encoding='utf-8') as df1: + #df1.write('\n省市频道,#genre#\n') + for line in file: + if 'CCTV' not in line and '卫视' not in line and '影' not in line and '剧' not in line and '4K' not in line: + if re.search(pattern, line): # 如果行中有任意关键字 + df1.write(line) # 将该行写入输出文件 +#从整理好的文本中按类别进行特定关键词提取# +keywords = ['河北', '石家庄', '丰宁', '临漳', '井陉', '井陉矿区', '保定', '元氏', '兴隆', '内丘', '南宫', '吴桥', '唐县', '唐山', '安平', '定州', '大厂', '张家口', '徐水', '成安', \ + '承德', '故城', '康保', '廊坊', '晋州', '景县', '武安', '枣强', '柏乡', '涉县', '涞水', '涞源', '涿州', '深州', '深泽', '清河', '秦皇岛', '衡水', '遵化', '邢台', '邯郸', \ + '邱县', '隆化', '雄县', '阜平', '高碑店', '高邑', '魏县', '黄骅', '饶阳', '赵县', '睛彩河北', '滦南', '玉田', '崇礼', '平泉', '容城', '文安', '三河', '清河'] # 需要提取的关键字列表 +pattern = '|'.join(keywords) # 创建正则表达式模式,匹配任意一个关键字 +#pattern = r"^(.*?),(?!#genre#)(.*?)$" #以分类直接复制 +with open('组播源.txt', 'r', encoding='utf-8') as file, open('f.txt', 'w', encoding='utf-8') as f: #定义临时文件名 + f.write('\n河北频道,#genre#\n') #写入临时文件名 + for line in file: + if 'CCTV' not in line and '卫视' not in line and 'CHC' not in line and '4K' not in line and 'genre' not in line: + if re.search(pattern, line): # 如果行中有任意关键字 + f.write(line) # 将该行写入输出文件 +#从整理好的文本中按类别进行特定关键词提取# +keywords = ['河南', '焦作', '开封', '卢氏', '洛阳', '孟津', '安阳', '宝丰', '邓州', '渑池', '南阳', '内黄', '平顶山', '淇县', '郏县', '封丘', '获嘉', '巩义', '杞县', '汝阳', '三门峡', '卫辉', '淅川', \ + '新密', '新乡', '信阳', '新郑', '延津', '叶县', '义马', '永城', '禹州', '原阳', '镇平', '郑州', '周口'] # 需要提取的关键字列表 +pattern = '|'.join(keywords) # 创建正则表达式模式,匹配任意一个关键字 +#pattern = r"^(.*?),(?!#genre#)(.*?)$" #以分类直接复制 +with open('组播源.txt', 'r', encoding='utf-8') as file, open('f1.txt', 'w', encoding='utf-8') as f1: #定义临时文件名 + f1.write('\n河南频道,#genre#\n') #写入临时文件名 + for line in file: + if 'CCTV' not in line and '卫视' not in line and 'CHC' not in line and '4K' not in line and 'genre' not in line: + if re.search(pattern, line): # 如果行中有任意关键字 + f1.write(line) # 将该行写入输出文件 +#从文本中截取省市段生成新文件# +# 定义关键词 +start_keyword = '省市频道,#genre#' +end_keyword = '其他频道,#genre#' +# 输入输出文件路径 +input_file_path = '酒店源.txt' # 替换为你的输入文件路径 +output_file_path = 'df.txt' # 替换为你想要保存输出的文件路径 +# 用于存储结果的列表 +result_lines = [] +# 打开输入文件并读取内容 +with open(input_file_path, 'r', encoding='utf-8') as file: + capture = False # 用于控制是否开始捕获行 + for line in file: + # 检查是否到达开始关键词 + if start_keyword in line: + capture = True + result_lines.append(line) # 添加开始关键词所在的行 + # 如果已经开始捕获,并且到达结束关键词,则停止捕获 + elif end_keyword in line and capture: + break + # 如果处于捕获状态,则添加当前行 + if capture: + result_lines.append(line) +# 将结果写入输出文件 +with open(output_file_path, 'w', encoding='utf-8') as file: + file.writelines(result_lines) +print('提取完成,结果已保存到:', output_file_path) +# +# +# 获取远程港澳台直播源文件 +url = "https://raw.githubusercontent.com/frxz751113/AAAAA/main/TW.txt" #源采集地址 +r = requests.get(url) +open('港澳.txt','wb').write(r.content) #打开源文件并临时写入 +# + # + + + +# +#从文本中截取省市段生成两个新文件# +# 获取远程港澳台直播源文件,打开文件并输出临时文件并替换关键词 +url = "https://raw.githubusercontent.com/frxz751113/AAAAA/main/IPTV/汇总.txt" #源采集地址 +r = requests.get(url) +open('TW.txt','wb').write(r.content) #打开源文件并临时写入 +for line in fileinput.input("TW.txt", inplace=True): #打开临时文件原地替换关键字 + line = line.replace("Taiwan,#genre#", "") #编辑替换字 + line = line.replace("amc", "AMC") #编辑替换字 + line = line.replace("中文台", "中文") #编辑替换字 + print(line, end="") #加入此行去掉多余的转行符 +# 定义关键词 +start_keyword = '省市频道,#genre#' +end_keyword = '港澳频道,#genre#' +# 输入输出文件路径 +input_file_path = 'TW.txt' # 替换为你的输入文件路径 +output_file_path = 'a.txt' # 替换为你想要保存输出的文件路径 +deleted_lines_file_path = 'df0.txt' # 替换为你想要保存删除行的文件路径 +# 标记是否处于要删除的行范围内 +delete_range = False +# 存储要删除的行,包括开始关键词行 +deleted_lines = [] +# 读取原始文件并过滤掉指定范围内的行 +with open(input_file_path, 'r', encoding='utf-8') as file: + lines = file.readlines() +# 过滤掉不需要的行 +filtered_lines = [] +for line in lines: + if start_keyword in line: + delete_range = True + deleted_lines.append(line) # 将开始关键词行添加到删除行列表 + continue + if delete_range: + if end_keyword in line: + delete_range = False + filtered_lines.append(line) # 将结束关键词行添加到输出文件列表 + else: + deleted_lines.append(line) # 添加到删除行列表 + else: + filtered_lines.append(line) +# 将过滤后的内容写入新文件 +with open(output_file_path, 'w', encoding='utf-8') as file: + file.writelines(filtered_lines) +# 将删除的行写入到新的文件中 +with open(deleted_lines_file_path, 'w', encoding='utf-8') as file: + file.writelines(deleted_lines) +print('过滤完成,结果已保存到:', output_file_path) +print('删除的行已保存到:', deleted_lines_file_path) +# +#从文本中截取少儿段并生成两个新文件# +# 定义关键词 +start_keyword = '少儿频道,#genre#' +end_keyword = '港澳频道,#genre#' +# 输入输出文件路径 +input_file_path = 'a.txt' # 替换为你的输入文件路径 +output_file_path = 'a0.txt' # 替换为你想要保存输出的文件路径 +deleted_lines_file_path = 'sr1.txt' # 替换为你想要保存删除行的文件路径 +# 标记是否处于要删除的行范围内 +delete_range = False +# 存储要删除的行,包括开始关键词行 +deleted_lines = [] +# 读取原始文件并过滤掉指定范围内的行 +with open(input_file_path, 'r', encoding='utf-8') as file: + lines = file.readlines() +# 过滤掉不需要的行 +filtered_lines = [] +for line in lines: + if start_keyword in line: + delete_range = True + deleted_lines.append(line) # 将开始关键词行添加到删除行列表 + continue + if delete_range: + if end_keyword in line: + delete_range = False + filtered_lines.append(line) # 将结束关键词行添加到输出文件列表 + else: + deleted_lines.append(line) # 添加到删除行列表 + else: + filtered_lines.append(line) +# 将过滤后的内容写入新文件 +with open(output_file_path, 'w', encoding='utf-8') as file: + file.writelines(filtered_lines) +# 将删除的行写入到新的文件中 +with open(deleted_lines_file_path, 'w', encoding='utf-8') as file: + file.writelines(deleted_lines) +print('过滤完成,结果已保存到:', output_file_path) +print('删除的行已保存到:', deleted_lines_file_path) +# +# + +#合并所有频道文件# +# 读取要合并的频道文件,并生成临时文件#合并所有频道文件# +file_contents = [] +file_paths = ["a0.txt", "港澳.txt", "b.txt", "df0.txt", "f.txt"] # 替换为实际的文件路径列表# +for file_path in file_paths: # + with open(file_path, 'r', encoding="utf-8") as file: # + content = file.read() + file_contents.append(content) +# 生成合并后的文件 +with open("综合源.txt", "w", encoding="utf-8") as output: + output.write(''.join(file_contents)) #加入\n则多一空行 +#去重# +#去重# +with open('综合源.txt', 'r', encoding="utf-8") as file: + lines = file.readlines() +# 使用列表来存储唯一的行的顺序 + unique_lines = [] + seen_lines = set() +# 遍历每一行,如果是新的就加入unique_lines +for line in lines: + if line not in seen_lines: + unique_lines.append(line) + seen_lines.add(line) +# 将唯一的行写入新的文档 +with open('综合源.txt', 'w', encoding="utf-8") as file: + file.writelines(unique_lines) +#再次规范频道名# +#从整理好的文本中进行特定关键词替换以规范频道名# +for line in fileinput.input("综合源.txt", inplace=True): #打开临时文件原地替换关键字 + line = line.replace("CCTV1,", "CCTV1-综合,") + line = line.replace("CCTV2,", "CCTV2-财经,") + line = line.replace("CCTV3,", "CCTV3-综艺,") + line = line.replace("CCTV4,", "CCTV4-国际,") + line = line.replace("CCTV5,", "CCTV5-体育,") + line = line.replace("CCTV5+,", "CCTV5-体育plus,") + line = line.replace("CCTV6,", "CCTV6-电影,") + line = line.replace("CCTV7,", "CCTV7-军事,") + line = line.replace("CCTV8,", "CCTV8-电视剧,") + line = line.replace("CCTV9,", "CCTV9-纪录,") + line = line.replace("CCTV10,", "CCTV10-科教,") + line = line.replace("CCTV11,", "CCTV11-戏曲,") + line = line.replace("CCTV11+,", "CCTV11-戏曲,") + line = line.replace("CCTV12,", "CCTV12-社会与法,") + line = line.replace("CCTV13,", "CCTV13-新闻,") + line = line.replace("CCTV14,", "CCTV14-少儿,") + line = line.replace("CCTV15,", "CCTV15-音乐,") + line = line.replace("CCTV16,", "CCTV16-奥林匹克,") + line = line.replace("CCTV17,", "CCTV17-农业农村,") + line = line.replace("CCTV风", "风") + line = line.replace("CCTV兵", "兵") + line = line.replace("CCTV世", "世") + line = line.replace("CCTV女", "女") + line = line.replace("008广", "广") + line = line.replace(" ", "") + line = line.replace("家庭电影", "家庭影院") + line = line.replace("CHC", "") + line = line.replace("科技生活", "科技") + line = line.replace("财经生活", "财经") + line = line.replace("新闻综合", "新闻") + line = line.replace("公共新闻", "公共") + line = line.replace("经济生活", "经济") + line = line.replace("频道1", "频道") + line = line.replace("省市频道", "湖北频道") + line = line.replace("[720p]", "") + line = line.replace("[1080p]", "") + print(line, end="") +#简体转繁体# +#简体转繁体 +# 创建一个OpenCC对象,指定转换的规则为繁体字转简体字 +converter = OpenCC('t2s.json')#繁转简 +#converter = OpenCC('s2t.json')#简转繁 +# 打开txt文件 +with open('综合源.txt', 'r', encoding='utf-8') as file: + traditional_text = file.read() +# 进行繁体字转简体字的转换 +simplified_text = converter.convert(traditional_text) +# 将转换后的简体字写入txt文件 +with open('综合源.txt', 'w', encoding='utf-8') as file: + file.write(simplified_text) +#TXT转M3U# +def txt_to_m3u(input_file, output_file): + # 读取txt文件内容 + with open(input_file, 'r', encoding='utf-8') as f: + lines = f.readlines() + # 打开m3u文件并写入内容 + with open(output_file, 'w', encoding='utf-8') as f: + f.write('#EXTM3U x-tvg-url="https://live.fanmingming.com/e.xml" catchup="append" catchup-source="?playseek=${(b)yyyyMMddHHmmss}-${(e)yyyyMMddHHmmss}"\n') + # 初始化genre变量 + genre = '' + # 遍历txt文件内容 + for line in lines: + line = line.strip() + if "," in line: # 防止文件里面缺失",”号报错 + # if line: + # 检查是否是genre行 + channel_name, channel_url = line.split(',', 1) + if channel_url == '#genre#': + genre = channel_name + print(genre) + else: + # 将频道信息写入m3u文件 + f.write(f'#EXTINF:-1 tvg-logo="https://live.fanmingming.com/tv/{channel_name}.png" group-title="{genre}",{channel_name}\n') + f.write(f'{channel_url}\n') +# 将txt文件转换为m3u文件 +txt_to_m3u('综合源.txt', '综合源.m3u') +#任务结束,删除不必要的过程文件# +files_to_remove = ['组播源.txt', "TW.txt", "a.txt", "a0.txt", "b.txt", "b1.txt", "港澳.txt", "df0.txt", "df.txt", "df1.txt", "sr1.txt", "sr2.txt", \ + "c2.txt", "c1.txt", "DD.txt", "f.txt", "f1.txt"] +for file in files_to_remove: + if os.path.exists(file): + os.remove(file) + else: # 如果文件不存在,则提示异常并打印提示信息 + print(f"文件 {file} 不存在,跳过删除。") +print("任务运行完毕,分类频道列表可查看文件夹内综合源.txt文件!") +#检测IP段第一个链接5秒内能否捕获80帧,来获得流畅源 +from pypinyin import lazy_pinyin +import re +import os +from opencc import OpenCC +import fileinput +###################################################################################################################### +###################################################################################################################### +###################################################################################################################### +###################################################################################################################### +###################################################################################################################### +# 合并自定义频道文件,优选源整理 +# 假设filter_files是一个自定义函数,它返回playlist目录下所有.txt文件的路径列表 +def filter_files(directory, extension): + return [f for f in os.listdir(directory) if f.endswith(extension)] +# 获取playlist目录下的所有.txt文件 +files = filter_files('playlist', '.txt') +# 打开输出文件 +with open("4.txt", "w", encoding="utf-8") as output: + for file_path in files: + with open(os.path.join('playlist', file_path), 'r', encoding="utf-8") as file: + content = file.read() + output.write(content + '\n\n') +print("电视频道成功写入") + +#################文本排序 +# 打开原始文件读取内容,并写入新文件 +with open('4.txt', 'r', encoding='utf-8') as file: + lines = file.readlines() +# 定义一个函数,用于提取每行的第一个数字 +def extract_first_number(line): + match = re.search(r'\d+', line) + return int(match.group()) if match else float('inf') +# 对列表中的行进行排序 +# 按照第一个数字的大小排列,如果不存在数字则按中文拼音排序 +sorted_lines = sorted(lines, key=lambda x: (not 'CCTV' in x, extract_first_number(x) if 'CCTV' in x else lazy_pinyin(x.strip()))) +# 将排序后的行写入新的utf-8编码的文本文件,文件名基于原文件名 +output_file_path = "sorted_" + os.path.basename(file_path) +# 写入新文件 +with open('5.txt', "w", encoding="utf-8") as file: + for line in sorted_lines: + file.write(line) +print(f"文件已排序并保存为: {output_file_path}") +import cv2 +import time +from tqdm import tqdm +# 初始化酒店源字典 +detected_ips = {} +# 存储文件路径 +file_path = "5.txt" +output_file_path = "2.txt" +def get_ip_key(url): + """从URL中提取IP地址,并构造一个唯一的键""" + # 找到'//'到第三个'.'之间的字符串 + start = url.find('://') + 3 # '://'.length 是 3 + end = start + dot_count = 0 + while dot_count < 3: + end = url.find('.', end) + if end == -1: # 如果没有找到第三个'.',就结束 + break + dot_count += 1 + return url[start:end] if dot_count == 3 else None +# 打开输入文件和输出文件 +with open(file_path, 'r', encoding='utf-8') as file: + lines = file.readlines() +# 获取总行数用于进度条 +total_lines = len(lines) +# 写入通过检测的行到新文件 +with open(output_file_path, 'w', encoding='utf-8') as output_file: + # 使用tqdm显示进度条 + for i, line in tqdm(enumerate(lines), total=total_lines, desc="Processing", unit='line'): + # 检查是否包含 'genre' + if 'genre' in line: + output_file.write(line) + continue + # 分割频道名称和URL,并去除空白字符 + parts = line.split(',', 1) + if len(parts) == 2: + channel_name, url = parts + channel_name = channel_name.strip() + url = url.strip() + # 构造IP键 + ip_key = get_ip_key(url) + if ip_key and ip_key in detected_ips: + # 如果IP键已存在,根据之前的结果决定是否写入新文件 + if detected_ips[ip_key]['status'] == 'ok': + output_file.write(line) + elif ip_key: # 新IP键,进行检测 + # 进行检测 + cap = cv2.VideoCapture(url) + start_time = time.time() + frame_count = 0 + # 尝试捕获10秒内的帧 + while frame_count < 230 and (time.time() - start_time) < 10: + ret, frame = cap.read() + if not ret: + break + frame_count += 1 + # 释放资源 + cap.release() + # 根据捕获的帧数判断状态并记录结果 + if frame_count >= 230: #10秒内超过230帧则写入 + detected_ips[ip_key] = {'status': 'ok'} + output_file.write(line) # 写入检测通过的行 + else: + detected_ips[ip_key] = {'status': 'fail'} +# 打印酒店源 +for ip_key, result in detected_ips.items(): + print(f"IP Key: {ip_key}, Status: {result['status']}") +######################################################################################################################################################################################## +################################################################定义关键词分割规则 +def check_and_write_file(input_file, output_file, keywords): + # 使用 split(', ') 来分割关键词 + keywords_list = keywords.split(', ') + pattern = '|'.join(re.escape(keyword) for keyword in keywords_list) + # 读取输入文件并提取包含关键词的行 + extracted_lines = [] + with open(input_file, 'r', encoding='utf-8') as file: + for line in file: + if "genre" not in line: + if re.search(pattern, line): + extracted_lines.append(line) + # 如果至少提取到一行,写入头部信息和提取的行到输出文件 + if extracted_lines: + with open(output_file, 'w', encoding='utf-8') as out_file: + out_file.write(f"{keywords_list[0]},#genre#\n") # 写入头部信息 + out_file.writelines(extracted_lines) # 写入提取的行 + # 获取头部信息的大小 + header_size = len(f"{keywords_list[0]},#genre#\n") + + # 检查文件的总大小 + file_size = os.path.getsize(output_file) + + # 如果文件大小小于30字节(假设的最小文件大小),删除文件 + if file_size < 300: + os.remove(output_file) + print(f"文件只包含头部信息,{output_file} 已被删除。") + else: + print(f"文件已提取关键词并保存为: {output_file}") + else: + print(f"未提取到关键词,不创建输出文件 {output_file}。") +# 按类别提取关键词并写入文件 +check_and_write_file('2.txt', 'a0.txt', keywords="央视频道, 8K, 4K, 4k") +check_and_write_file('2.txt', 'a.txt', keywords="央视频道, CCTV, CHC, 全球大片, 星光院线, 影迷") +check_and_write_file('2.txt', 'a1.txt', keywords="央视频道, 剧场, 电影, 女性, 地理") +check_and_write_file('2.txt', 'b.txt', keywords="卫视频道, 卫视") +check_and_write_file('2.txt', 'c.txt', keywords="影视频道, 爱动漫, 爱怀旧, 爱经典, 爱科幻, 爱青春, 爱悬疑, 爱幼教, 爱院线, 影, 剧, 经典") +check_and_write_file('2.txt', 'd.txt', keywords="少儿频道, 少儿, 卡通, 动漫, 宝贝, 哈哈") +check_and_write_file('2.txt', 'e0.txt', keywords="港澳频道, 龙华, 采昌, 好莱坞, 东森, 美亚, 八大, TVB, 动物杂技, 东森, 凤凰, 天映, AMC, 龙祥, 1905, 纬来, 神话, 经典都市, 视界, 广场舞, 私人, 酒店") +check_and_write_file('2.txt', 'e.txt', keywords="港澳频道, TVB, 澳门, 龙华, 民视, 中视, 华视, AXN, MOMO, 采昌, 耀才, 靖天, 镜新闻, 靖洋, 莲花, 年代, 爱尔达, 好莱坞, 华丽, 非凡, 公视, 寰宇, 无线, EVEN, MoMo, 爆谷, 面包, momo, 唐人, \ +中华小, 三立, CNA, FOX, RTHK, Movie, 八大, 中天, 中视, 东森, 凤凰, 天映, 美亚, 环球, 翡翠, 亚洲, 大爱, 大愛, 明珠, 半岛, AMC, 龙祥, 台视, 1905, 纬来, 神话, 经典都市, 视界, 番薯, 私人, 酒店, TVB, 凤凰, 半岛, 星光视界, \ +番薯, 大愛, 新加坡, 星河, 明珠, 环球, 翡翠台, ELTV, 大立, elta, 好消息, 美国中文, 神州, 天良, 18台, BLOOMBERG, Bloomberg, CMUSIC, CN卡通, CNBC, CNBC, CinemaWorld, Cinemax, DMAX, Dbox, Dreamworks, ESPN, Euronews, \ +Eurosports1, FESTIVAL, GOOD2, HBO家庭, HBO, HISTORY, HOY国际财经, HakkaTV, J2, KOREA, LISTENONSPOTIFY, LUXE, MCE, MTV, Now, PremierSports, ROCK, SPOTV, TiTV, VOA, ViuTV, ViuTV6, WSport, WWE, 八度, 博斯, 达文西, 迪士尼, \ +动物星球, 港石金曲, 红牛, 互动英语, 华纳影视, 华语剧台, ELTV, 欢喜台, 旅游, 美食星球, nhkworld, nickjr, 千禧, 全球财经, 探案, 探索, 小尼克, 幸福空间, 影剧, 粤语片台, 智林, 猪哥亮") +#check_and_write_file('2.txt', 'f0.txt', keywords="湖北湖南, 湖北, 湖南") +check_and_write_file('2.txt', 'f.txt', keywords="湖北频道, 湖北, 武汉, 松滋, 十堰, 咸宁, 远安, 崇阳, 黄石, 荆州, 当阳, 恩施, 五峰, 来凤, 枝江, 黄冈, 随州, 荆门, 秭归, 宜昌, 长阳, 大悟, 孝感, 鄂州, 垄上, 宜都") +check_and_write_file('2.txt', 'f1.txt', keywords="湖南频道, 湖南, 茶, 长沙, 常德, 郴州, 垂钓, 金鹰纪实, 衡阳, 怀化, 茶, 吉首, 娄底, 邵阳, 湘潭, 益阳, 永州, 岳阳, 张家界, 株洲, 城步, 崇左, 洪雅, 涟水, 灵石, 隆回, 罗城, 溆浦, 邵阳") +#check_and_write_file('2.txt', 'g0.txt', keywords="浙江上海, 浙江, 上海") +check_and_write_file('2.txt', 'g.txt', keywords="浙江频道, 浙江, 杭州, 宁波, 平湖, 庆元, 缙云, 嵊, 义乌, 东阳, 文成, 云和, 象山, 衢江, 萧山, 龙游, 武义, 兰溪, 开化, 丽水, 上虞, NBTV, 舟山, 新密, 衢州, 嘉兴, 绍兴, 温州, \ +湖州, 永嘉, 诸暨, 钱江, 松阳, 苍南, 遂昌, 青田, 龙泉, 余杭, 新昌, 杭州, 余杭, 丽水, 龙泉, 青田, 松阳, 遂昌, 宁波, 余姚, 上虞, 新商都, 绍兴, 温州, 永嘉, 诸暨, 钱江, 金华, 苍南, 临平") +#check_and_write_file('2.txt', 'g1.txt', keywords="浙江上海, 上海, 东方, 普陀, 东方财经, 五星体育, 第一财经, 七彩, 崇明") +check_and_write_file('2.txt', 'h0.txt', keywords="河北频道, 石家庄, 河北") +check_and_write_file('2.txt', 'h.txt', keywords="河南频道, 河南, SiTV") +check_and_write_file('2.txt', 'hh.txt', keywords="河南频道, 河南, 焦作, 封丘, 郏县, 获嘉, 巩义, 邓州, 宝丰, 开封, 卢氏, 洛阳, 孟津, 安阳, 渑池, 南阳, 林州, 滑县, 栾川, 襄城, 宜阳, 长垣, 内黄, 鹿邑, 新安, 平顶山, 淇县, \ +杞县, 汝阳, 三门峡, 卫辉, 淅川, 新密, 新乡, 信阳, 新郑, 延津, 叶县, 义马, 永城, 禹州, 原阳, 镇平, 郑州, 周口, 泌阳, 郸城, 登封, 扶沟, 潢川, 辉县, 济源, 浚县, 临颍, 灵宝, 鲁山, 罗山, 沁阳, 汝州, \ +唐河, 尉氏, SiTV") +check_and_write_file('2.txt', 'h1.txt', keywords="河北频道, 河北, 石家庄, 承德, 丰宁, 临漳, 井陉, 井陉矿区, 保定, 元氏, 兴隆, 内丘, 南宫, 吴桥, 唐县, 唐山, 安平, 定州, 大厂, 张家口, 徐水, 成安, 故城, 康保, 廊坊, 晋州, \ +景县, 武安, 枣强, 柏乡, 涉县, 涞水, 涞源, 涿州, 深州, 深泽, 清河, 秦皇岛, 衡水, 遵化, 邢台, 邯郸, 邱县, 隆化, 雄县, 阜平, 高碑店, 高邑, 魏县, 黄骅, 饶阳, 赵县, 睛彩河北, 滦南, 玉田, 崇礼, 平泉, \ +容城, 文安, 三河, 清河, 潞城, 迁安, 迁西, 清苑, 确山") +#check_and_write_file('2.txt', 'j.txt', keywords="广东广西, 广东, 广西") +check_and_write_file('2.txt', 'j.txt', keywords="广东广西, 广东, 潮州, 东莞, 佛山, 广州, 河源, 惠州, 江门, 揭阳, 茂名, 梅州, 清远, 汕头, 汕尾, 韶关, 深圳, 阳江, 云浮, 湛江, 肇庆, 珠江, 中山, 珠海, 番禺") +check_and_write_file('2.txt', 'j1.txt', keywords="广东广西, 广西, 百色, 北海, 防城港, 桂林, 河池, 贺州, 柳州, 南宁, 钦州, 梧州, 玉林, 宾阳") +check_and_write_file('2.txt', 'l0.txt', keywords="江苏频道, 江苏") +#check_and_write_file('2.txt', 'l.txt', keywords="安徽四川, 安徽, 安庆, 蚌埠, 亳州, 巢湖, 池州, 岳西, 滁州, 阜阳, 合肥, 淮北, 淮南, 黄山, 六安, 马鞍山, 宿州, 铜陵, 芜湖, 宣城, 固始, 光山") +#check_and_write_file('2.txt', 'l1.txt', keywords="安徽四川, 四川, 阿坝, 巴中, 成都, 达州, 德阳, 甘孜, 广安, 广元, 乐山, 凉山, 泸州, 眉山, 绵阳, 内江, 南充, 攀枝花, 遂宁, 雅安, 宜宾, 资阳, 自贡, 黑水, 金川, 乐至, 双流, \ +#万源, 马尔康, 泸县, 文山, 什邡, 西青, 长宁, 达州, 红河") +check_and_write_file('2.txt', 'o1.txt', keywords="其他频道, 新闻, 综合, 文艺, 电视, 公共, 科教, 教育, 民生, 轮播, 套, 法制, 文化, 经济, 生活") +check_and_write_file('2.txt', 'o.txt', keywords="其他频道, , ") +############################################################################################################################################################################################################################### +##############################################################对生成的文件进行合并 +file_contents = [] +file_paths = ["e0.txt", "e.txt", "a0.txt", "a.txt", "a1.txt", "b0.txt", "b.txt", "c.txt", "c1.txt", "c2.txt", "d.txt", "f0.txt", "f.txt", "f1.txt", "g0.txt", "g.txt", "g1.txt", \ + "h.txt", "hh.txt", "h0.txt", "h1.txt", "i.txt", "i1.txt", "j.txt", "j1.txt", "k.txt", "l0.txt", "l.txt", "l1.txt", "m.txt", "m1.txt", \ + "n0.txt","n.txt","n1.txt", "o1.txt", "o.txt"] # 替换为实际的文件路径列表 +for file_path in file_paths: + if os.path.exists(file_path): + with open(file_path, 'r', encoding="utf-8") as file: + content = file.read() + file_contents.append(content) + else: # 如果文件不存在,则提示异常并打印提示信息 + print(f"文件 {file_path} 不存在,跳过") +# 写入合并后的文件 +with open("去重.txt", "w", encoding="utf-8") as output: + output.write('\n'.join(file_contents)) +############################################################################################################################################################################################################################### +##############################################################对生成的文件进行网址及文本去重复,避免同一个频道出现在不同的类中 +def remove_duplicates(input_file, output_file): + # 用于存储已经遇到的URL和包含genre的行 + seen_urls = set() + seen_lines_with_genre = set() + # 用于存储最终输出的行 + output_lines = [] + # 打开输入文件并读取所有行 + with open(input_file, 'r', encoding='utf-8') as f: + lines = f.readlines() + print("去重前的行数:", len(lines)) + # 遍历每一行 + for line in lines: + # 使用正则表达式查找URL和包含genre的行,默认最后一行 + urls = re.findall(r'[https]?[http]?[P2p]?[mitv]?://(?:[a-zA-Z]|[0-9]|[$-_@.&+]|[!*\\(\\),]|(?:%[0-9a-fA-F][0-9a-fA-F]))+', line) + genre_line = re.search(r'\bgenre\b', line, re.IGNORECASE) is not None + # 如果找到URL并且该URL尚未被记录 + if urls and urls[0] not in seen_urls: + seen_urls.add(urls[0]) + output_lines.append(line) + # 如果找到包含genre的行,无论是否已被记录,都写入新文件 + if genre_line: + output_lines.append(line) + # 将结果写入输出文件 + with open(output_file, 'w', encoding='utf-8') as f: + f.writelines(output_lines) + print("去重后的行数:", len(output_lines)) +# 使用方法 +remove_duplicates('去重.txt', '分类.txt') +# 打开文档并读取所有行 +with open('分类.txt', 'r', encoding="utf-8") as file: + lines = file.readlines() + +# 使用列表来存储唯一的行的顺序 + unique_lines = [] + seen_lines = set() +# 遍历每一行,如果是新的就加入unique_lines +for line in lines: + if line not in seen_lines: + unique_lines.append(line) + seen_lines.add(line) +# 将唯一的行写入新的文档 +with open('组播优选.txt', 'w', encoding="utf-8") as file: + file.writelines(unique_lines) + +################################################################################################任务结束,删除不必要的过程文件 +files_to_remove = ['去重.txt', '分类.txt', "2.txt", "4.txt", "5.txt", "playlist/3.txt", "a0.txt", "hh.txt", "a.txt", "a1.txt", "b0.txt", "b.txt", "c.txt", "c1.txt", "c2.txt", "d.txt", "e0.txt", "e.txt", "f0.txt", "f.txt", "f1.txt", \ + "g0.txt", "g.txt", "g1.txt", "h0.txt", "h.txt", "h1.txt", "i.txt", \ + "i1.txt", "j.txt", "j1.txt", "k.txt", "l0.txt", "l.txt", "l1.txt", "m.txt", "m1.txt", \ + "n0.txt","n.txt","n1.txt", "o1.txt", "o.txt", "p.txt", "酒店源.txt"] +for file in files_to_remove: + if os.path.exists(file): + os.remove(file) + else: # 如果文件不存在,则提示异常并打印提示信息 + print(f"文件 {file} 不存在,跳过删除。") +print("任务运行完毕,分类频道列表可查看文件夹内综合源.txt文件!") +# 打印酒店源 +for ip_key, result in detected_ips.items(): + print(f"IP Key: {ip_key}, Status: {result['status']}")