【发布时间】:2020-10-22 08:23:21
【问题描述】:
我每 10 分钟使用 python 将数据从新闻站点拉到 mongodb。有时会记录相同的数据。因为无法控制相同的数据。如果有相同的传入数据,请不要保存到 mongodb。
import feedparser
import datetime
import threading
import pymongo
from pymongo import MongoClient
client = pymongo.MongoClient("mongodb+srv://xxx:xxx@cluster0-ogqg8.mongodb.net/rss_feed?retryWrites=true&w=majority")
db = client["rss_feed"]
collection=db["rss_collection"]
def mynet():
NewsFeedMynet = feedparser.parse("http://www.mynet.com/haber/rss/sondakika")
entry = NewsFeedMynet.entries[1]
post_mynet={"baslik":entry.title,"kisa_bilgi":entry.summary,"link":entry.link,"zaman":entry.published,"saglayici":"Mynet"}
collection.insert_one(post_mynet)
【问题讨论】:
-
程序有时会循环记录相同的数据(有时新闻网站不刷新新闻)。请在此处检查有关相同数据的代码
标签: python mongodb aggregation-framework rss insert-update